抗日战争胜利结束后，第74军军长施中诚率部驻防南京，转任南京警备司令。第74军副军张灵甫升任为第74军军长。

受影视剧《红日》等的影响，张灵甫的名字大家已经比较熟悉了。张灵甫是陕西省长安县（现陕西省西安市长安区）人，毕业于黄埔军校第四期步兵科。张灵甫在1936年枪杀第二任妻子吴海兰，引发了轰动，被判入狱10年，在南京“模范监狱”服刑。

一年后，抗日战争爆发，在王耀武等人的保荐下，张灵甫被释放出狱，在王耀武手下任职。在抗日战争期间，张灵甫历任团长、副旅长、旅长、副师长、师长、副军长等职。他担任第74军军长没多久，第74军便被改编为整编74师，张灵甫仍然是整编74师师长。

虽然是师的编制，整编74师其实相当于一个军。整编74师下辖整编第51旅、第57旅、第58旅，共兵力达到了3万余人。这支军队配备了美式枪械，包括12门105毫米榴弹炮、36门75毫米山炮、108门105毫米迫击炮、108门81毫米迫击炮，另外还有战防炮、火焰喷射器、火箭筒、重机枪、轻机枪、汤姆森冲锋枪等轻重武器，无线电报话机配备到连级单位，战斗力非常强大，成为五大王牌军之一。

然而，这并没有什么用。孟良崮一战，张灵甫和他的整编74师被华东野战军全歼，只有第58旅173团缺乏重武器，未参加孟良崮战役，侥幸逃过一劫。

1947年，在王耀武的要求下，整编74师得以重新组建，组建的基础正是第58旅173团。重建的整编74师以邱维达担任师长，下辖整编第51旅和整编第58旅。1948年9月19日，整编74师改称为第74军，等于是恢复原来的称号。邱维达担任军长，下辖第51师、第58师。

1948年，国军组建了第2兵团，由邱清泉担任兵团司令官。第74军被纳入邱清泉第2兵团。当年11月6日，淮海战役爆发，第74军随邱清泉第2兵团援救被华东野战军围困在碾庄的黄百韬第7兵团，由此出现在淮海战场。

凑巧的是，第74军参加淮海战役后，与老对手华东野战军再次交手，再次遭到华东野战军的毁灭性打击，终于灰飞烟灭，化为泡影。军长邱维达逃出淮海战场后，在河南永城被俘。