东山再起来源于两个故事，第一个典故是源于三国时期的孙权，当时的吴国是孙权所建立的。从222年到229年，和曹操的魏国，蜀汉成为了三足鼎立的气势，又因为吴国是三个国家的东面，又被称作东吴。等到了东晋时期有一个叫做谢安的人，这个谢安很有能力，才学过人，出生在名门世家，思维敏捷，风度翩翩，从小就遇事沉着冷静，受到很多人的重视，享有很高的声誉。但是在朝廷上遭到他人的嫉妒，皇上对他的态度也是忽冷忽热，让谢安很生气，就辞职隐居。隐居之后想念家乡的他就兴修土木，把隐居的土山改为了东山。
到了383年，秦国的苻坚开始南下，征讨晋国。这时候的皇帝想到了谢安，就让谢安回来，并且封了谢安为征讨大都督，谢安并没有推辞，而是尊了皇上的旨意，跟苻坚抗战。正是那淝水之战，让谢安再次被朝廷重用，升职，当时和苻坚的淝水之战，谢安是稳坐东山下棋，最后敌人中计了，落败而逃，所有人都佩服谢安。著名的以少胜多的战役就是以谢安为领导的淝水之战，这一场仗救了东晋，后来被召入朝中，成为了吏部尚书。谢安打了胜仗，当时因为是宁远隐居，也不出来做官，后来到了40多岁才出山，又因为他长期在东山隐居，所以出来做官的这件事情，被称为东山再起。
这一场著名的战役，让东晋赢了，也让谢安出了名，更让谢安在40多岁终于得以为国家做了贡献，不再是独有虚名，也让他就此成就了一个成语，东山再起。
另外一个典故说的是宋代时期的李纲，他是岳飞的伯乐，也是北宋时期的文臣，丞相之位，抗金的名臣，民族英雄一枚。当时在抗金的时候，李纲推举岳飞挂帅，正式如此让岳飞大展宏图，展现了自己的真正实力。但是在岳飞被秦桧迫害致死后，李纲受到了牵连，被革职流放。后来到东山岭山赞助，一次机缘巧合去算了一卦，说是不久之后就可以逢凶化吉，前途不可限量。最后真的就迎来了机会，经过半年的修行，宋孝宗继位之后，秦桧受到了惩罚，李纲被朝廷赦免，官复原职，被封为宰相，回到了朝廷。因为对这段日子不忘怀，怀念在东山岭的日子，就经常和身边的人说起，后来民间就有了东山再起的说法，另外这件事情在海南省万宁市东山岭有石碑为记。
