吕禄相信了郦寄的话，准备奉还将军的印信，把军队交给太尉。他派人将此事通报给吕产以及家族里的长辈们。族人之中有人赞同吕禄的做法，也有人认为吕禄此举会招来祸患，众人各执己见，不能达成一致，最终没有作出决定。吕禄很信任郦寄，经常和他一起外出游玩、打猎。一天，在外出归来的途中，吕禄去看望他的姑母吕须。吕须得知吕禄打算交出军权，便非常恼怒地说：“你身为将军却打算离开军队，我们吕家人如今已经没有安身立命之处了。”说罢，她把自己所有的珠宝玉器都散扔在堂下，又说道：“我不会替异姓之人保存它们的。”后来，吕禄将兵权交了出去，这使吕氏家族的处境就更加被动了。
诛灭诸吕
八月的一天早晨，平陽侯曹窋去会见相国吕产商议政务。正巧此时，郎中令贾寿刚从齐国出使回来。他是吕产的心腹，责怪吕产说：“您不早早地前往封国，如今即使您想回去都已经不可能了！”接着，他就把灌婴与齐、楚等国联合、结盟，准备诛灭吕氏宗族的详细情况告诉给了吕产，并且催促吕产迅速进宫，先发制人。两人的谈话正巧被曹窋偷听到，他立即把这个情况告诉给丞相与太尉。
周勃得知此事，便要闯入北军，但是没能成功。襄平侯纪通主管天子的符节印信。于是陈平等人命令他拿着天子的符节，假称奉诏而使太尉进入北军。与此同时，周勃命令郦寄与典客刘揭去劝导吕禄说：“天子派遣太尉统领北军，想让您回归封国，立即归还将印。如果您不这样做，马上就会大祸临头。”吕禄认为郦寄不会欺骗自己，就解下了将印并把它交给了刘揭，将军权交给太尉。周勃便佩戴着将印进入军门，下令军中说：“打算替吕氏卖命的人袒露右胸，愿意为汉家尽忠的人袒露左胸。”军中士卒们都袒露左胸，表示愿意效忠刘氏。周勃掌控了北军。
虽然太尉周勃掌控了北军，但是南军还在吕家人手里。于是陈平命令朱虚侯刘章去协助太尉。太尉命令刘章监守军门，又命令平陽侯告知卫尉，不要让相国吕产进入殿门。吕产不知道吕禄已经离开了北军，仍然想进入未央宫，组织叛乱。但是他不能进入殿门，只能在门外徘徊。平陽侯担心不能战胜吕产，便派人火速通报太尉，请求太尉决断。太尉也担心战胜不了吕家的人，没敢公开说要诛杀吕产。他派遣朱虚侯去未央宫护驾。朱虚侯向周勃请兵，周勃便调拨给他千余名士卒。朱虚侯率兵进入未央宫门，与吕产等人狭路相逢，双方展开激战，朱虚侯最后将他杀死。
此后，天子命令谒者持节慰劳朱虚侯。朱虚侯想要皇帝的符节印信，谒者不肯交给他。朱虚侯便和谒者共乘一车，凭借着天子的印信而飞驰于宫中，斩杀了长乐宫卫尉吕更始。后来，朱虚侯到了北军，向太尉复命。太尉起身，向朱虚侯行礼祝贺说：“我所担心的只有吕产，现在他已经被诛杀了，天下可以安定了。”随后，太尉、丞相等人派人将吕氏宗族诛灭，稳定了政局。
拥立新君
诛灭吕氏势力以后，朝中诸位大臣私下里商议说：“少帝和梁王、淮陽王、常山王，都不是惠帝真正的儿子。吕后用欺诈手段用别人的儿子来假冒太子，杀害了他们的生母，把这些孩子带入后宫并且抚养长大。吕后强迫惠帝认这些孩子做儿子，然后，立他们作为太子或者是诸侯王，借此增强吕家势力。现在我们已经联手诛灭了吕家势力，但如果对于吕家所扶植的人置之不理，待他们长大成人而掌握政权，我们这些人就都会面临灭种的危险。因此，我们应该从刘氏诸侯王里选出一位贤明之人，立他为皇帝。”接着有人建议说：“齐悼惠王是高帝的长子，现在他的嫡长子即位为王，从血统本源上说，齐王是高帝的嫡孙，可以拥立他为天子。”不少大臣反对说：“吕氏因为是外戚而作恶多端，几乎毁掉了刘氏的宗庙社稷、杀尽了名将功臣。如今齐王的母家是姓驷的，他的舅舅驷钧是一个臭名昭著的恶人。假如我们拥立齐王，就等于重新扶植了像吕氏一样的恶势力。”后来大家又打算拥立淮南王刘长，但是由于刘长年少，他的母家人也很凶恶，于是也被否决了。大家又合计说：“代王刘恒是当今健在的高帝的儿子，是年纪最长的一位宗室王，他为人仁孝宽厚，母家薄氏严谨善良。况且，拥立长子本来就与礼制相符合，而代王又以仁孝闻名于天下，所以立他为天子最合适。”