公元前187年，孝惠帝去世。吕太后想立吕氏宗族的人为王，她想看看各位大臣的意见，就询问王陵，王陵对她说：“这样做不行。”吕太后接着又去问陈平，陈平却说：“可以这样做。”吕太后经过这么一对比，厌恨王陵不支持自己的想法，于是假意提升王陵为皇帝的太傅，实际上是恶毒地剥夺了他的大权，不再重用他。王陵对此非常生气，心想自己为汉朝平定天下立下了赫赫战功，最终竟然落得了这样的下场，就撂挑子称病辞职，整日闭门不出，始终不肯朝见皇帝，七年之后去世。
计安刘氏
王陵被免除丞相职务后，吕太后就调任陈平为右丞相，任命辟陽侯审食其为左丞相。审食其也是沛县人。刘邦在彭城西边被项羽击败时，楚军抓走刘邦的父亲和吕后作为人质，审食其以家臣身份侍奉吕后，照顾左右。他后来跟随汉军打败项羽被封为侯，受到吕太后的宠幸。他做了左丞相之后，一直住在宫中，掌握了朝中大权，文武百官都得通过他才能决断事情。
吕嬃因从前陈平为高帝出谋划策捉拿了樊哙，对他不满，多次进谗言说：“陈平当丞相以后不理政务，每天饮美酒，玩弄女子。”陈平听到后，不但没有收敛，反而更加放纵。吕太后听说了这件事，心里暗自高兴。她当着吕嬃的面对陈平说：“俗语说‘小孩和妇女的话不可信’，就看你对我怎么样了。不要怕吕嬃说你的坏话。”
吕太后立吕氏宗族的人为王，陈平知道无法阻拦，便忍气吞声，假装顺从。等到吕太后去世以后，陈平跟太尉周勃合谋，终于诛灭了吕氏宗族，拥立孝文皇帝即位。汉初这些宫廷要事陈平都是主要策划者。
以退为进
孝文帝即位后，认为太尉周勃亲自率兵诛灭吕氏宗族，功劳最多。陈平看到孝文帝想重用周勃，就想把右丞相的尊位让给周勃，于是托病引退。孝文帝刚刚即位，觉得陈平病得奇怪，认为他是不是有什么想法，就亲自去探问他。陈平对他说：“陛下，高祖在世的时后，周勃的功劳不如我陈平。到诛灭吕氏宗族时，我的功劳就不如周勃了。我愿把右丞相的职位让给周勃。”孝文帝这才恍然大悟，就顺水推舟，任命绛侯周勃为右丞相，位次名列第一；陈平调职为左丞相，位次名列第二。
过了一段时间，孝文皇帝已经渐渐明了熟悉国家大事。一次，孝文帝在接受群臣朝见时问右丞相周勃说：“全国一年中判决的案件有多少？”周勃心里不清楚，谢罪说：“陛下恕罪，臣不知道。”孝文皇帝又问：“那么全国一年中钱粮的开支收入有多少？”周勃又谢罪说不知道，急得汗流浃背，惭愧自己不能回答。于是皇上又问左丞相陈平。陈平说：“有主管的人，陛下可以向他们询问。”皇上便说：“那主管的人又是谁呢？”陈平回答说：“陛下若问判决案件的情况，可询问廷尉；问钱粮收支的情况，可询问治粟内史。”皇上意犹味尽，接着说：“如果各自有主管的人，那么您所主管的是些什么事呢？”陈平谢罪说：“为臣诚惶诚恐！陛下不知我才智低劣，让我勉强担任丞相的职位。丞相一职，对上辅佐天子调理陰陽，顺应四时；对下养育万物，让它们适时生长；对外镇抚四夷和诸侯；对内爱护团结百姓，使公卿大夫各自能够胜任他们的职责。”孝文帝对他的话非常满意，称赞他回答得好。右丞相周勃则大为惭愧，退朝后埋怨陈平说：“您怎么不在平时教我对答这些话，让我在皇上和文武百官面前丢脸！”陈平扑哧一笑，对他说：“您现在身居相位，难道不知道丞相的职责吗？陛下如要是问起长安城中盗贼的数目，您是否也要勉强凑数来对答啊？”这时绛侯周勃才知道自己的才能与陈平相差很远，却担任这么重要的职位，觉得真是无地自容。不久，周勃托病请求免去右丞相的职务，陈平独自担任整个丞相职务。
周勃离职
绛侯周勃的祖先是卷县人，后来迁徙到沛县。周勃出身微贱，家境贫寒，依靠着编织蚕箔来勉强维持生活。为了糊口，他还经常为办丧事的人家吹箫、奏挽歌，以此为副业。另外，他身强力壮，力大无比，能够拉开强弓。后来他跟从刘邦起义，作战勇敢，立下了累累战功。