担任前锋。

这年闸饥荒，出兵之后缺乏粮食，牛存节用金银绸缎向老百姓换取干桑果给士兵作为食物，打跑了李罕之。

梁太祖进攻魏，牛存节攻克魏黎阳、临河，斩杀魏军一万二干人，和梁太祖在内黄会师。

迁任滑州牢城遏后指挥使。

梁军进攻郫州，牛存节派都将王言在郓州西北角的城濠中埋伏战船，约定中午用船渡兵跨越城濠，迅速进攻敌军。

恰逢军营中起火，郫州人登上城墙观火，王言伏在城濠中不敢行动，和牛存节失约，牛存节独自攻破郓州西面瓮城门，抢占濠沟上的吊桥，梁军得以全部进城，于是打败朱宣。

随葛从周进攻淮南，葛从同在淬河被打败，牛存节收容溃散的士兵八千人返回。

太祖拜他为亳、宿二州刺史。

朱瑾逃到昊，召集昊兵进攻宿、徐二州，牛存节谋划说：“淮军一定不会先进攻宿州，因为宿州的濠沟营垒素来坚固，可以抗敌。”于是夜晚率兵急赴徐州，等赶到徐州城下时，朱瑾的军队刚到，他们望着飞起的烟尘，惊慌地说：“梁军已到，为何如此迅速！”没能进攻就离去了。

不久梁太祖的使臣来到，向牛存节传达军事计划，都和牛存节的主意不谋而合，从此将领们更加佩服他的才能。

迁任潞州都指挥使。

梁太祖进攻凤翔，派人召回牛存节。

牛存节作为将领，法令严整而又善于嬴得士兵的欢心，潞州送行的人都号哭流泪。

历次升迁至邢州团练使、元帅府左都押衙。

梁太祖登位，拜他为右干牛卫上将军。

随康怀英进攻潞州，任行营排阵使。

晋军攻破夹城后，牛存节等人率领残兵返回，行进到天井关时，听说晋军进攻泽州，牛存节望着将领们说：“我这次出征虽没有接到其它命令，但泽州是紧要的地方，不能丢失。”将领们都不想去救援泽州。

牛存节命令士兵好好休息，然后说道：“事情危急而不赶去，难道称得上勇敢吗！”于是举鞭打马当先而行，士兵们都随他而去。

到达泽州时，州中人已经焚烧外城，准备向晋投降，听说牛存节到来，纔稍稍安定下来。

牛存节进入城中，协助泽州人守城，晋人挖地道攻城，牛存节挑选几十个勇士，也挖地道对付他们，在地道中发生战斗，敌人无法进城，晋人撤围而去。

迁任左龙虎统军、六军都指挥使、绛州刺史，调任邱州留后。

同州刘知俊反叛，逃奔凤翔，于是调任牛存节为匡国军节度使。

朱友珪登位，朱友谦反叛依附晋，西面和凤翔相连，牛存节东西两面受敌。

同州水咸而又没有井，刘知俊背叛梁后，因为缺水不能坚守而逃跑，因此朱友谦和岐兵一起包围同州，旷日持久，想用缺水来拖垮他们，牛存节祈祷后选地凿井八十口，井水都甘甜可饮，朱友谦最终不能攻克同州。

梁末帝登位，加授同中书门下平章事头衔，调任镇守天平军。

蒋殷在徐州反叛，派牛存饰攻破徐州，因功加官太尉。

梁、晋在黄河上相持，牛存节患头痛病，而梁、晋正在苦战，牛存节更加忠勇激发，整治军队督促士兵，不曾谈起他的病情。

病情危急，被召回京城，临死前，牛存节对他的儿子牛知业说：“要做到忠孝，纔算是我的儿子。”再没有提到别的事。

赠官太师。

张归霸，清河人。

梁末帝娶他的女儿，这就是德妃。

张归霸年轻时和弟弟张归厚、张归弁都跟随黄巢，黄巢被打败后束逃，张归霸兄弟于是向梁投降。

秦宗权进攻汴州，张归霸数次作战有功。