1937年10月，平型关战斗结束后，115师被分为两部分。罗荣桓带领一部分兵力前往汾河和晋南，在这些地区开辟新的根据地；而聂荣臻则带领剩余的部队前往五台山。这次分兵对我军后来的作战起到了至关重要的作用，之后山东、晋察冀根据地的建立，也为后续战斗打下了坚实的基础。

当时负责分兵的是115师的政治主任罗荣桓，聂荣臻非常信任他，知道他为人公正且能力出众，特别是在分兵的问题上，他可以做出公平的决定。聂荣臻知道罗荣桓的任务非常艰巨，因为他需要在新的地区开辟根据地，这需要大量的人员和资源来支援。因此，聂荣臻让罗荣桓先挑选自己所需的人员，剩下的留给他，而聂荣臻并没有与他争抢。最后，聂荣臻自己留下了约3000人的部队，其中包括一个独立团、一个骑兵营和一些干部及几个连队。对于人员数量，聂荣臻并不太在乎，因为他深知红军最擅长从小到大，关键在于干部的培养和队伍的发展。 尽管聂荣臻手下的干部并不多，但他自己非常开明，经常鼓励大家，认为虽然干部不多，但这些干部都是部队的骨干，只要肯努力，部队一定能够壮大起来。但要在晋察冀地区建立根据地，凭这3000多人的力量是否足够呢？聂荣臻的答案是“不行也得行”。他坚信，没有什么是做不到的，也没有完成不了的任务，这个目标一定能够实现。 晋察冀地区地理位置特殊，是兵家必争之地。这里有四条铁路通向中原内部，如果敌人占领了这个地方，往后推进会更加容易。因此，聂荣臻认为必须在这里建立根据地，不容敌人占领。这不仅关系到中原地区的安全，也为未来反攻打下坚实基础。聂荣臻深知，晋察冀的战略重要性，如果在这里建立了根据地，就能够有效地制约敌人的进攻，确保中原的完整，最终为中国的反攻奠定基础。

驻守晋察冀的部队是115师独立团，杨成武担任独立团团长。他在军区的贡献巨大，凭借出色的军事策略，很快就收复了晋察冀周边的大片地区，为军区的扩展打开了局面。不久后，独立团被扩编为独立师，下辖三个团，杨成武任师长，邓华任政委。1937年11月7日，晋察冀军区正式成立，聂荣臻担任军区司令。在军区成立后，许多群众纷纷前来支持，军区迅速扩展，四个军分区也随之建立。 随着部队的扩张，干部短缺的问题日益突出，成为当时军区面临的最大难题。聂荣臻早已意识到这一问题，并没有选择依赖上级来解决，而是决定自给自足。他在军区内开办学校，让115师的干部担任教员，吸引更多青年加入军校学习，从而培养出更多的干部。经过两年的培养，超过九百名新干部分赴全国各地，担任各种职务。这为党和国家培养了大量人才，也让聂荣臻感到无比自豪，甚至在晚年回忆时，依然为此感到骄傲。 然而，尽管聂荣臻培养出了如此众多的干部，有人不禁疑惑，既然有这么多新干部，为什么从晋察冀地区出来的兵团只有三个呢？对此，郑维山给出了答案。事实上，晋察冀地区在1939年前培养了多个兵团，但由于前线的需要，这些兵团大部分都被调往前线支援。因此，晋察冀地区最终只保留了三个兵团。