孟良崮战役期间，号称是国军头号主力的整编74师被粟裕率领的华东野战军全歼，师长张灵甫被击毙。此战的胜利英雄很大，对国民党军的士气造成了沉重的打击。但是此战结束之后，蒋介石不甘心失败，立刻命令王耀武重建整编74师。

王耀武是74军的第二任军长，也是他把74军锻造成了国军头号主力，蒋介石十分信任他。在孟良崮战役期间，整编74师还有三个新兵团没有参战，王耀武在这三个新兵团和一个榴弹炮营的基础上建立了51旅，将山东警备二旅改编为了57旅，广东航空警备旅改编为58旅。重建后的整编74师师长是邱维达，此人也是王耀武的老部下，毕业于黄埔四期。

1948年初，整编74师重建完毕，这支部队重建完毕之后，被分配到阜阳，亳州等地驻防。1948年3月，刚从大别山出来的中原野战军士气低落，重装备全部丢失，急需打一场胜仗来鼓舞士气，这支部队把目标盯上了驻守在安徽阜阳的整编74师58旅。

整编74师58旅拥有9000多人，全副美械装备，这支部队虽然无法和老74师相比，但是战斗力很强悍。为了迅速歼灭这支部队，中野调集了五个纵队，又从华野调了一个纵队，一共集结了六个纵队的兵力，准备消灭这支部队。

虽然中野官兵打的很猛烈，但是由于没有重武器，进展十分缓慢，一纵的一个主攻团直接被击溃。双方激战六天之后，20个旅的国民党军援兵纷纷赶到，中野只能撤退。