1939年8月初，八路军一一五师师长陈光和政委罗荣桓，带领机关和少数部队驻扎在山东梁山宋江寨北部的一个偏僻地区。这里地势险要，周围环境复杂，为的是利用自然条件掩护部队的隐蔽。

就在这一天上午，突然有两个气喘吁吁的侦察员赶回报告，带来了敌情：日军32师团的炮兵一部分、一个步兵大队，还有若干伪军，共计400多人，装备了两门野炮、一门九二式步兵炮，和十多挺轻重机枪。敌军在大队长长田敏江的带领下，今天一清早从忻口出发，计划西进，预计下午会抵达梁山。面对如此强敌，陈光和罗荣桓立即召集部队干部开会商讨对策。

“打掉它！”不少干部迅速提出请战，气氛热烈。然而，也有人提出不同看法，认为我军虽与敌人兵力相当，但在武器装备上却存在巨大的差距。特别是敌人装备精良，轻重机枪和火炮的数量远超我军，想要歼灭敌人难度相当大。

一位干部引用了孙子的兵法：“十则围之，五则攻之”，认为如果兵力无法达到敌人的五倍甚至十倍，单凭现有装备要打败敌人几乎不可能。罗荣桓沉稳地回应道：“虽然敌人装备精良，但他们是孤军深入，没有后援。周围的敌军支援力量也很薄弱。现在正值青纱帐季节，敌人对我军的情况一无所知，梁山周围的有利地形完全可以为我们提供掩护。如果我们能打敌人一个措手不及，完全有可能消灭这股敌人。”

罗荣桓继续分析：“至于兵力问题，我们不需要五倍或十倍的兵力。只要将杨勇的独立旅一团三营调来参战，兵力稍作补充就足够了。”他的话让大家充满信心，会议气氛逐渐转向积极，并且提出了具体的战术方案。

下午时分，骄横的日军大摇大摆地进入伏击圈，正如罗荣桓所预料，敌人并未察觉到潜伏在暗中的八路军。我军迅速出击，将敌人一部歼灭。剩下的敌人则狼狈退守到梁山西南的独山庄和独山高地。此时，部分指挥员主张趁敌人还未完全稳固阵地，趁机攻击独山庄。

罗荣桓却冷静地说：“不要急。敌人占领了独山庄和高地，形成了火力交叉的有利阵地。如果我们贸然攻击，可能会陷入敌人的火力网，造成不必要的伤亡。我们要等到天黑，独立旅一团三营赶到后，再做打击。”

夜幕降临，八路军按照既定计划集结，准备在敌人放松警惕之际进行突然袭击。陈光和罗荣桓将各级指挥员召集到指挥所，详细部署战斗，决定趁敌人深夜熟睡、警戒松懈时发动总攻。各分队悄然进入预定阵地。

正如预料的那样，夜半时分，敌人开始变得松懈，巡逻人员懒散，部分哨兵甚至在岗位上打起瞌睡。陈光和罗荣桓发出进攻命令，我军从四面八方发起攻击。被惊醒的敌人措手不及，手榴弹的爆炸声响彻夜空，有的敌人甚至未等反应过来就被炸得血肉模糊。其他敌军还未举枪反抗，便被刺刀穿心。不到一个小时，庄内200余名敌军全部被歼灭。

与此同时，独山高地的敌人也遭到我军猛烈的进攻，部分敌人被歼灭，其余的则撤退至一个骡马店大院内。敌军在四周墙壁上开设了许多射击孔，企图用密集的火力阻挡我军的进攻。尽管我军发起了几次进攻，但均未能成功，战斗一度陷入僵持。

关键时刻，罗荣桓立即指示一团政委戴润生前来指挥所，进行战斗部署。他要求戴润生鼓励士兵们再接再厉，争取在10点之前全歼残敌。戴润生回到阵地后，迅速调整战斗计划，向敌人发动了最后的总攻。

在全体指战员的奋力拼搏下，我军终于取得了压倒性胜利。占据骡马店后方小山头的队伍，通过地利优势，向敌军大院实施了猛烈火力压制。濒临绝境的敌人终于无法承受如此巨大的压力，仓皇打开大门试图逃跑。而等待在门外的骑兵连见状，立即发动追击，骑兵们跃马挥刀，砍杀逃窜的敌人。经过这场生死较量，敌军惨败，数十名敌人倒在了战场上。

在战斗结束后，八路军在一个凹地里发现了长田敏江的尸体，证明了此次胜利的决定性意义。此次战斗，我军共击毙日伪军300余人，俘虏24人，缴获了大量的野炮、机枪等武器。战斗胜利后，中央军委特发贺电，表彰参战部队的英勇表现。

这场战斗的胜利震动了整个鲁西，消息迅速传遍山东，极大地鼓舞了全省民众的抗战热情。特别是在梁山附近，许多年轻人纷纷投身八路军，仅半个月内，便有超过3000名青年加入了抗战行列。

建国后，山东相关部门在编写抗战史时，罗荣桓亲自指示将“梁山歼灭战”列为抗战史中的重点章节，因为他深知，这一战的胜利不仅极大鼓舞了抗战士气，也为山东抗日根据地的建立奠定了基础。他曾深刻指出：“如果没有梁山歼灭战的胜利，可能就没有后来的山东抗日根据地。”