惠公回国以后，诛杀了庆郑，重修政教，并且与大臣们谋划说：“公子重耳流亡在外，诸侯大多想要护送他回国继位，以从中得利，因此我们应该除掉他。”惠公派刺客到翟国去刺杀重耳。重耳得到消息后，迅速逃到了齐国。
短命怀公
当晋惠公还是公子在梁国流亡的时候，梁国国君就把自己的女儿嫁给了他。这个女子为公子夷吾生下了一男一女两个孩子。有一次，梁国国君命人占卜这两个孩子的前途，结果是男孩将做人家的臣仆，女孩将做人家的妾，梁国国君知道后非常失望，为了避免这样的晦气，他就给男孩取名叫圉，女孩起名叫妾。后来夷吾回国继位，圉便被立为了太子。
韩原战败以后，晋惠公为了稳定与秦国的关系，派太子圉到秦国做人质。秦穆公对此很高兴，将一名秦国女子嫁给圉为妻子。几年以后，晋惠公得了重病，随时都有可能会死去，而晋国国内还有好几名公子，都在虎视眈眈地注视着王位。太子圉得到这个消息后，忧虑地说：“我母亲家在梁国，如今梁国被秦国灭掉了，我失去了母家人的援助。在外我被秦国轻视；在内晋国人大多不支持我。国君如果病逝，我担心晋国的大臣们会轻视我，改立其他的公子为国君，我该怎么办呢？”于是太子圉便谋划和他的妻子一同逃回晋国，而他的妻子则说：“您是一国的太子，如今却困辱在这里，秦国让我这个婢女来侍奉您，是要稳定住你的心。您要是逃亡，我是不便跟您一起前去，但是身为妻子，我绝对不会将此事泄露出去。”所以太子圉只好和他的几名亲信逃回了晋国。不久，晋惠公去世，太子圉继承了王位，这就是晋怀公。
由于太子圉本来是在秦国的人质，所以对于他的逃离，秦国十分怨恨。于是秦穆公派人联络同样流亡在外的晋国公子重耳，想要护送他回国继位。晋怀公打听到秦国的动静，心里非常害怕，就命令所有跟随重耳流亡的晋国人在规定期限内回国，到期不归的人，便诛杀他的全家。大臣狐突的儿子狐毛与狐偃此时跟随重耳到了秦国，狐突非常敬重公子重耳，所以不肯召他们回国。怀公听说以后十分生气，便囚禁了狐突。他派人责问狐突为什么要这样做。狐突回答说：“臣的儿子侍奉公子重耳已经有好多年了，如今假如我召唤他们回国，那等于是叫他们背叛君主啊！我用什么道理来说服他们呢？”怀公见狐突不肯就范，就把他杀死了。因为类似情况被杀的人不在少数，所以怀公更加失去了民心。不久，秦穆公发兵护送重耳回国，而晋国的大臣栾枝、郤榖率领他们的党徒为内应，向晋怀公发动攻击，结果晋怀公被杀死在高梁。重耳继承了王位，这就是晋文公。
大难不死
重耳即位以后，虽然得到了大多数人的拥护，但是反对派的力量依然十分强大。晋惠公时期的大臣吕省、郤芮原本就不亲附重耳，而且等到他即位以后，这些人的利益受到了很大的损害，于是他们就密谋焚烧国君的宫殿，试图烧死文公。对于即将发生的一切，重耳和他的亲信们毫不知情。
献公在位时曾经奉命刺杀重耳的宦官寺人披知道了吕省等人的陰谋，就想把这件事告诉文公，以解脱自己当初的罪过。他前来求见文公，重耳对以前的事情依然耿耿于怀，就拒绝见他，并派人责备他说：“在蒲邑的时候，你追杀我，砍断了我的衣袖。后来我跟随翟国国君打猎，你又奉惠公之命来刺杀我。惠公限你三天之内到达，而你仅用一天便赶到了，为何如此的快呢？你还是好好想想过去吧。”寺人披托人转告重耳说：“我是个受了刑的人，不敢用二心来侍候君主、背叛主上，所以才得罪了您。如今您即位为君，难道以后就没有像当初在蒲邑、翟国发生的那样的事情了吗？况且，当初管仲射中了齐桓公的衣带钩，但桓公并没有怀恨在心，而是重用管仲，并最终靠他的辅佐称霸天下。如今我有要事相告，您却闭门不见，不知道灾祸将要临头了。”晋文公听了他的话之后感到很惭愧，便接见了寺人披，寺人披便将吕省等人的陰谋告诉给了文公，文公对此非常感激，决定捐弃前嫌。