晋冀鲁豫野战军第6纵队是一支经过战斗磨砺的部队，最初成立时并没有太强的战斗力，毕竟它由太行军区的地方部队组建而成。在6纵成立之前，太行军区的主力部队被编成了第3纵队。

第6纵队的首任司令员是王宏坤，他兼任了这一职务，王近山则担任副司令员。到了1946年，王近山担任副司令员后，韦杰也成为了副司令兼旅长。在王近山的影响下，6纵的战斗力迅速提升，特别是在定陶战役中，6纵经历了一场十分艰难的战斗，这场战斗锤炼了部队，使得第6纵与1纵、2纵、3纵、4纵齐名。从此以后，6纵在许多作战中表现优异，无论是执行阻击任务，还是攻坚战，都能够轻松应对。也许因为王近山出色的军事才能，副司令员韦杰在公众眼中显得有些低调。王近山手下有三位旅长，分别是韦杰、李德生和肖永银。有人认为，尤太忠也是其中之一，但尤太忠是在韦杰担任旅长后才接替这一职务的，并且在韦杰担任旅长期间，尤太忠担任副旅长。尽管这些旅长各自有着出色的作战能力，但他们都渴望承担主攻任务。比如在打兰封战役时，原本由18旅的肖永银承担主攻任务，但韦杰却要求由16旅来执行主攻任务，这让王近山感到难以决断。毕竟每个旅长的任务都已分配好，大家应该按照任务顺序来执行。

考虑到韦杰不仅是旅长，而且还是副司令员，作为王近山的副手，他显然应该得到尊重，任务最终还是交给了韦杰。韦杰的资历更老，出身红七军，在土地革命时期，他曾编入红3军团，担任过营长、团长，后来调任红15军团担任师长，而王近山当时只是副师长。抗战时期，韦杰调任八路军总部特务团团长，后来改任115师344旅688团团长，而王近山则担任副团长。之后，韦杰被调到129师，成为刘邓麾下的一名战将。而王近山则在战场上表现出色，逐渐建立了自己的声望。当时，王近山也不禁想知道韦杰为何如此坚决要打主攻，难道他是为了个人荣誉吗？实际上，韦杰并不追求个人功绩，打兰封时，他意识到这场战斗关系到6纵的首战，必须全盘考虑。最终，韦杰带领6纵和三纵第八旅攻占兰封，成功消灭了敌人两个保安团，并俘虏了1100余人。尽管韦杰非常能打，但他一直担任副司令员的位置，直到1948年，王近山因腿伤休养了一年，部队由政委带领，韦杰依然只是副司令员，并没有成为代理司令员。直到1948年，情况发生了变化。由于华东野战军独立师归入晋冀鲁豫军区，成立了第13纵，原本打算让曾绍山担任司令员，但由于他无法调去，韦杰被替补去了13纵。

第13纵坚持在内线作战，并与其他纵队在徐向前的指挥下，开始了一系列的城市攻坚战。首战临汾的战斗，因为敌人的防御工事坚固，而我军缺乏重型炮火，只能采用土工作业、爆破等方式进行攻坚，整个战斗持续了七十多天。接着，我们进行了一战、二战、三战运城的攻坚，终于解放了运城。晋中攻坚战是一次以少胜多的经典战役，部队表现出了顽强的战斗力。随着晋中战役的胜利，歼灭了敌人数万之众，部队的战斗力得到了大大提升，随后，部队转向太原进行攻坚。太原的防御工事非常坚固，且当时我军缺乏足够的武器装备，兵力也不足。尽管如此，攻坚战仍然打得持久，从1948年秋季开始，到1949年初夏，最终成功解放太原。 随着大西北的解放，18兵团南下进入大西南，而韦杰再次在刘邓的麾下出任军长，这一次他终于能够独当一面，指挥自己的部队展开战斗。