唐朝的中央核心制度是“三省六部”。三省指中书省、门下省、尚书省。中书省负责起草政令，门下省负责审核政令，尚书省负责推行政令。三省中尚书省的地位最高。尚书省的最高长官是尚书令，其品级为正二品；左右仆射的品级是从二品；而中书令和门下侍中则是正三品，和六部尚书并列。

除了品级高，尚书省的权力也非常大，六部九寺五监都直属尚书省。尚书省的长官在唐朝初年接近于真正的首席宰相，例如房玄龄在尚书省左仆射的位置上就担任了二十多年。可到了唐高宗时期，尚书令和尚书省的左右仆射却逐渐变成了只剩下头衔、没有实权的虚职。为什么会这样呢？

其实原因在于尚书省最高长官尚书令的地位太高，成为对皇权威胁最大的宰相自古以来就不少见。自隋朝开始，尚书令这个职位基本就空着不用，隋朝历史上只有杨素有过尚书令，任职没多久就去世了。唐太宗登基后，以“自己曾经担任过尚书令”为理由，把不再实际设立尚书令的做法制度化了。

虽然尚书令几乎空置，但尚书省的实际权力并没有因此消失。尚书省的左仆射仍然是首席宰相。但三省制度在效率上的缺陷逐渐显现。因为中书省、门下省、尚书省分处不同地点，传达一个政令需要经过多道程序，效率很低，不利于统一的中央集权。于是从隋朝开始，三省的长官们就常在政事堂开会以提高效率。唐太宗登基后，又命令一些具特殊身份的官员（如参预朝政、同中书门下平章事、同中书门下三品等）也必须参加政事堂的会议。

在贞观时期末年，唐太宗任命长孙无忌“权知三省”，并让他检校中书令，亲自主持政事堂的会议。由于政事堂的位置就在中书省、门下省的区域（唐中宗时期甚至定在中书省），中书令和门下侍中逐渐成为政事堂会议的固定主持人和主要成员；尚书省的左右仆射则逐渐失去了参加政事堂会议的固定资格。

到了唐高宗时期，朝廷的大小事务几乎都在政事堂讨论处理。政事堂从一个会议室逐步演变成高于三省的宰相委员会，主持政事堂会议的中书令和门下侍中成为实际上的首席宰相和次席宰相；而尚书省的左右仆射因为没有固定资格参加政事堂，逐渐变成了没有实权的虚职。