李存勖在成功策划并实施了消灭后梁、前蜀的功臣郭崇韬之后，心中始终忧虑一个问题：郭崇韬的卓越战功和深厚的人望让他成为了许多士兵和百姓心中的英雄，万一他无辜被杀，会引发更多人的不满甚至造反。于是，他开始动用最信任的优伶和宦官们，四处密切监视任何可能有异动的言行，尤其是那些曾得罪过宫中的伶人和宦官的人。对于稍有反常行为的人，李存勖立刻将其诬陷为郭氏党羽，轻则关押，重则满门抄斩。整个朝廷和民间都笼罩在一种恐惧的气氛中，人人自危，寂静无声。

同光三年（925年）二月初，贝州（今河北清河）爆发了兵变，起义军由指挥使赵在礼领导，占据了邺城（即魏州，今河北大名）并抵抗了官军的进剿。与此同时，曾随郭崇韬征伐蜀地并担任先锋的马步军都指挥使李绍琛也起义反叛，自称西川节度使，与当时的皇子、魏王李继岌一同对抗后唐的蜀伐大军，使得原本准备攻灭蜀地的后唐军队在西川无法回师，迟迟未能北返。

面对贝州的叛乱，李存勖初时选择派人安抚，但未能取得效果。得知消息后，李存勖大为震怒，立即调遣多路军队进攻叛军，但全部被魏博叛军击败。此时，众大臣纷纷推荐悍将李嗣源前去平定叛军。此时李嗣源因常受李存勖的猜忌而备感压力，但在多次兵败的情况下，李存勖最终只能决定派遣李嗣源前去平定魏博叛军。

然而，李存勖怎么也没想到，前去平定叛乱的李嗣源军队居然要推举李嗣源为皇帝。乱兵们对李嗣源说道：“我们愿意立李令公（李嗣源）为河北皇帝，让今上（李存勖）继续做河南皇帝。”李嗣源听到这话不禁心头一震，知道这是触犯死刑的重罪。面对如此局面，他本能地拒绝了他们的要求，然而，叛军不顾他的反对，强行将他带往魏州。李嗣源自知自己是后唐开国的功臣，又与李存勖有着深厚的关系，他担心若此事失败，必定会给家人带来灭顶之灾。

此时，李嗣源犹豫不决，内心充满矛盾，而他的女婿石敬瑭则鼓励他：“想成大事，岂能犹豫？现在已无退路。”在石敬瑭的鼓动下，李嗣源决定反抗，并指挥部队向汴梁（今开封）进发。李嗣源的起义军很快聚集了大量支持者，李存勖得知后心生恐慌，急忙派遣李继岌率领的西征大军北上，同时也紧急调集各地藩将赶来支援。

2月20日，李嗣源带领魏博大军渡过黄河南下，滑州（今河南滑县）守将选择投降，未与李嗣源军队展开战斗。李存勖见大势已去，准备亲自出征，召集手下王公大臣与宦官们捐献财物以助军饷。史载，连一位名叫景进的戏子也捐献了30万贯的“助军钱”。然而，后唐的士兵们不仅没有感恩，反而愤怒地说：“我们的家人早已饿死，哪有心思要这些钱物？”

26日，李存勖率军抵达荥泽（今郑州广武古荥镇）时，李嗣源和石敬瑭已经攻占了汴州。李存勖立即命令龙骧指挥使姚彦温率3000骑兵去夺回汴州，但姚彦温在抵达后反而投降了李嗣源。另一名负责粮草的指挥使潘环更是将所有粮草辎重送进了汴梁城。李存勖继续北上，但一路上许多士兵纷纷逃散，导致军队的士气极度低落。为了安抚军心，李存勖向部队承诺说：“魏王又送来了西川金银五十万，到京城后会赏赐给大家。”然而，士兵们并不买账，反而愤怒地嘶吼道：“虽然有重赏，可已经太晚了，谁还会感恩！”

李存勖一度感到绝望，他在经过洛阳东面的石桥时，悲愤地招待众将，向他们说：“我们共同经历了这么多年，现在事已至此，难道没有一个办法吗？”然而，部下们纷纷举刀削发，誓言“以死报国”，却无人提出有效的战略。最终，李存勖只得在洛阳城外决战时被背叛，身边的卫士也纷纷逃散。

当李存勖进入洛阳后，李嗣源随即发动进攻，一举占领汜水关。不久后，洛阳城内的兵变愈演愈烈，许多大臣与将领纷纷逃跑，李存勖无计可施，最终在自己的兵变中失去了权力。

后唐同光四年（926年）三月，李嗣源与石敬瑭的军队逼近洛阳。宰相豆卢革劝李存勖不要惊慌，并建议他依靠汜水防守。李存勖采纳了这一建议，准备做最后一搏，集合所有残余力量与李嗣源决战。

然而，李存勖的军队难以支撑。郭从谦暗中煽动士兵们反抗，指责李存勖不信任他们。士兵们因不满李存勖屠戮无辜，纷纷响应，开始暴动。混乱中，李存勖被叛军攻入宫内，箭伤倒地。在失血过多、无力自救的情况下，这位曾征战四方、灭后梁平前蜀的英雄最终死于乱箭之下，时年43岁。

李嗣源占领洛阳后即位，成为后唐明宗。他为李存勖举行了厚葬，并将其葬于新安县的雍陵，追尊其为“光圣神闵孝皇帝”，庙号“庄宗”。