1939年，115师师长陈光和政委罗荣桓率领主力部队进驻山东，着手建立抗日根据地。当时，山东地区已有一支地方武装——山东纵队，它是由本地民众自发组成的一支抗日力量，具有土生土长的背景。

然而，随着115师的到来，原本是为了增强山东抗日力量的支援部队，却在一定程度上加剧了根据地内部的矛盾，导致了指挥体系的分裂和局势的复杂化。两支部队难以统一指挥，从而迫使罗、陈向上级电报报告，提出请求将115师调离山东的要求。

在115师到达山东之前，为了加强地方武装的领导，上级派遣了张经武、王建安、罗舜初等军事干部来协助工作，逐渐形成了山东纵队的指挥结构。张经武担任总指挥，王建安担任副总指挥，纵队下辖约2.4万名战士。随着时局发展，上级又调派了徐向前、朱瑞前往山东，进一步完善了指挥系统，成立了八路军第一纵队，以统一领导山东的抗日力量。

1939年，115师的第五军进驻鲁南地区，开始开辟新的抗日根据地。这一发展导致115师向南扩展，而山东纵队则在北方稳扎根基。对于两支部队是否应当进行合并或靠拢的问题，意见不一。山东分局认为115师应向北靠拢，与山东纵队合力抗敌，而115师则认为，按照上级的指示，他们应该继续向南发展，这样才能保持鲁南的战略要地不失。

当时，115师已经在鲁南站稳脚跟，战略意义重大。如果撤离北方，鲁南地区可能会被东北军占领，局势将变得十分不利。撤退至沂蒙山区后，若再想南下作战，将面临更多的制约与困难。因此，在经过一番考虑后，山东分局的朱瑞要求115师北上，但为了团结统一，115师最终还是决定北上，同时在鲁南留下了有效的战略部署。

在山东抗战的初期，一个关键的问题便是如何确定两支部队的领导关系。经过一番讨论与协调，决定成立第一纵队，统一指挥山东的八路军。然而，这一方案并未持续多久，徐向前被调往延安，未能长期负责统一指挥工作，导致领导权未能稳定下来。

此外，关于山东抗日的形势，朱瑞和罗荣桓有着不同的看法。朱瑞对抗日局势持乐观态度，认为根据地建设逐步取得成效，抗敌的优势逐渐显现；而罗荣桓则更加谨慎，他认为当前敌我形势变化不大，难以做出根本性的改变。这一分歧也影响了两位领导者之间的合作。

随着形势的发展，延安和八路军总部也未能在山东领导问题上达成一致。山东分局的负责人对115师的工作提出了批评，认为他们的工作不力。接到批评电报后，罗、陈两人感到在这样的工作环境下难以继续推进，进一步影响了两支部队的合作与发展。因此，他们向上级提出了调离山东的请求，陈光希望离开山东去学习，而罗荣桓也要求调离。

对此，上级及时作出了回应，表示会鼓励罗荣桓和陈光安心工作，同时明确撤销了之前对115师的批评。这一调整帮助缓解了当时的矛盾。

为了更好地解决领导问题，进一步加强山东抗日工作，上级开始实施双重领导体制。朱瑞成为山东分局书记，山东纵队继续由115师的首长指挥，同时，两支部队合并成立山东军政委员会，由罗荣桓担任书记。这一体制在一定程度上改善了问题，但仍未能根本解决领导层之间的矛盾。

为了彻底解决问题，上级决定派遣刘少奇前往山东。刘少奇到达后，开展了深入的调研工作，他与各方负责人展开了讨论，并召开了由朱瑞、罗荣桓、陈光等人参加的座谈会。通过对各方成绩的肯定和问题的剖析，刘少奇指出了山东抗日工作中的不足，并提出了具体的解决方案。

最终，经过上级一系列的调整，朱瑞被调往延安参加“七大”，山东的工作逐渐实现了统一领导。山东军区正式成立，由罗荣桓担任山东分局书记，兼任山东军区司令员与政委。至此，山东抗日根据地在领导体制上发生了重大变革，也为之后的抗战工作奠定了更为坚实的基础。