虽然太上皇的制度在汉朝以前就有了，不过真正确立是在汉朝。大家都知道，刘邦的出身并不高，在刘邦建立汉朝当上皇帝后，依然对自己的老父亲非常尊敬，并且和普通百姓一样向父亲行礼。

　　后来负责刘太公家事的人就对太公说“天上的太阳只有一个，地上的君主也不应该有两个。虽然，皇帝是您的儿子，可是，他也是朝廷的君主。依照法度，您应该尊他为君主，哪有让君主来拜见臣子的道理呢?如果这种事情一直继续下去的话，估计皇帝的威严就要被消耗殆尽了。”这话让刘太公十分惶恐，之后刘邦来看望他的时候，他就在门口迎接，一边退着走，一副尊敬的样子，刘邦看到后慌忙下车搀扶自己的父亲。

　　待刘邦知道了其中的缘由后，刘邦决定把自己的父亲尊为太上皇，刘太公就成了历史少有的未当过皇帝，却是太上皇的人了。这之后，这个制度就成了一个转移皇位的常用手段。当然太上皇的权利大小也与自己如何成为太上皇有关，如唐朝的李渊被李世民逼着去当了太上皇的这种，自然没什么权利，当然李渊的生活还是不错的，也算悠闲的渡过了晚年。而像乾隆这样，主动去当太上皇，但实际上却仍然把控着朝政，他的皇帝儿子早期就和傀儡皇帝没区别。

　　历史上，太上皇最多的朝代是南宋，甚至连续三位皇帝都在活着的时候退位，然后让继任者登基，这也与南宋的软弱有关，在重文轻武的宋朝，贫弱的军事能力导致南宋的统治经常受到威胁，而谁都不行当亡国之君，于是为了甩锅只好赶紧退位，让下一任继位，自己去当太上皇好好的安享晚年。