武帝之后，政府中最有权势的官职是大司马、大将军，录尚书事，尚书令也是善能呼风唤雨的角色。丞相权位迅速下降，到成、哀年间，虽几经反复，终于被废去，确立了大司徒、大司马、大司空的三公体制。
南宋孝宗时，丞相官称又一次回归到封建政府中来，孝宗以左、右丞相为宰相之职，参知政事为副相。杰出的文天祥就曾任职右丞相，领导了南宋末年艰苦悲壮的抗元斗争，用血濡的大笔写下了千古流芳的民族正气歌。
元朝建立后，设立中书省为最高国家权力机关，中书省的最高长官是中书令，由皇太子兼任，但不条理省务，总管事务的是其下的右，左丞相二人。与宋朝制度不同的是，元以右为尊，并且元文宗之后，专任右丞相，左丞相废置无常，权势大杀于右丞相。
明制，废去丞相一职，由皇帝直接率吏、户、礼、兵、刑、工六部处理政事，一举把皇帝由国家元首变成元首兼行政首脑。朱元璋对这一举措十分得意，为保证自己这一措施能长久贯彻，特为下诏：此后朱明历代皇帝不得置丞相，臣下有建议置丞相者，重处不贷。朱明皇帝禀遵祖训，从此，相沿千年的宰相制度就彻底废除了，皇帝个人的专制集权达到了空前强化的地步。
丞相的废除，正是宰相制度退出历史舞台的标志，丞相!和宰相竟如此这般的有始有终。
