1946年6月，国民党军集中数个整编师进攻华东解放区，虽然华中野战军连续打了几次胜仗，但由于国民党军的强大攻势，苏中陷于敌手，华中野战军北上与山东野战军合并，徐州绥署主任薛岳指挥25个整编旅，意图在苏北地区发起与我军决战，迫使我军在山东与之决战，为了打破敌人的阴谋，同时也是为了让两军在合并以后熟悉彼此战术。我军发起了宿北战役。

在全歼了整编六十九师三个半旅以后，国民党军三路大军已经逼近了山东解放区首府临沂，特别是整编26师以及一个快速纵队，为了发起一个比宿北战役更大规模的歼灭作战，山野、华野组成两路纵队，其中右路纵队以向枣庄、峄县扩大战果，而左右两路纵队在相继配合的情况下，向敌整编26师、整编51师发起进攻，并全歼了这两个整编师。

鲁南战役一下子打出惊人的战果，这给了初次合并以后的两大野战军很大的信心，而更为关键的是，在这次作战中，还包含了敌人一个快速纵队，这个快速纵队是以整编第80旅为主，其中配备了大量的机械化装备，如坦克24辆、汽车474辆、火炮两百门，由于考虑到未来大兵团作战，火炮是头等重要的条件，因此华野准备筹建专业的炮兵纵队。

让谁来当这个纵队司令比较好呢？当时华野考虑到一个人，实际上在组建这支炮兵纵队的时候，这个人已经被晾在一边，当了很多年的“光杆司令”，这个人就是时任新四军司令部参谋处长、炮兵司令员陈锐霆。

陈锐霆是普通农民家庭出身，后来毕业于济南师范学校，成了一名老师，幼年时曾经历中国积贫积弱的年代，特别是对帝国主义的洋枪洋炮充满愤恨，济南惨案以后，陈锐霆考入黄埔军校，并执意要求分到炮兵分队，毕业后被调任到国民党军中任职。在皖南事变以后，陈锐霆率领部队战场起义投奔新四军。

虽然是炮兵专业出身，但陈锐霆在作战中专业对口的机会很少，毕竟当时部队之中炮兵并不多见，特别是后来参加新四军以后，1946年陈锐霆调任新四军炮兵司令，但当时既没有炮、也没有人，是一个名副其实的光杆司令，直至鲁南战役胜利以后，我军依托于在战场上缴获的武器装备，这才考虑到组建专业炮兵。

该纵队下辖野炮团、榴弹炮团，是以缴获的28门美制榴弹炮以及部分火炮为基础组建的，此外还有一个坦克分队，加上配属的骑兵团以及工兵分队，一直专业的炮兵部队就此建立起来，陈锐霆指挥特种兵纵队多次参加大型战役屡立战功，直至1948年9月的济南战役，陈锐霆指挥10个炮团500多门火炮参战，开创我军历史上以重火力进攻敌人重兵布防城市的先河。