惠公回國以後，誅殺了慶鄭，重修政教，並且與大臣們謀劃說：「公子重耳流亡在外，諸侯大多想要護送他回國繼位，以從中得利，因此我們應該除掉他。」惠公派刺客到翟國去刺殺重耳。重耳得到消息後，迅速逃到了齊國。
短命懷公
當晉惠公還是公子在梁國流亡的時候，梁國國君就把自己的女兒嫁給了他。這個女子為公子夷吾生下了一男一女兩個孩子。有一次，梁國國君命人占卜這兩個孩子的前途，結果是男孩將做人家的臣僕，女孩將做人家的妾，梁國國君知道後非常失望，為了避免這樣的晦氣，他就給男孩取名叫圉，女孩起名叫妾。後來夷吾回國繼位，圉便被立為了太子。
韓原戰敗以後，晉惠公為了穩定與秦國的關係，派太子圉到秦國做人質。秦穆公對此很高興，將一名秦國女子嫁給圉為妻子。幾年以後，晉惠公得了重病，隨時都有可能會死去，而晉國國內還有好幾名公子，都在虎視眈眈地注視著王位。太子圉得到這個消息後，憂慮地說：「我母親家在梁國，如今梁國被秦國滅掉了，我失去了母家人的援助。在外我被秦國輕視；在內晉國人大多不支持我。國君如果病逝，我擔心晉國的大臣們會輕視我，改立其他的公子為國君，我該怎麼辦呢？」於是太子圉便謀劃和他的妻子一同逃回晉國，而他的妻子則說：「您是一國的太子，如今卻困辱在這裡，秦國讓我這個婢女來侍奉您，是要穩定住你的心。您要是逃亡，我是不便跟您一起前去，但是身為妻子，我絕對不會將此事洩露出去。」所以太子圉只好和他的幾名親信逃回了晉國。不久，晉惠公去世，太子圉繼承了王位，這就是晉懷公。
由於太子圉本來是在秦國的人質，所以對於他的逃離，秦國十分怨恨。於是秦穆公派人聯絡同樣流亡在外的晉國公子重耳，想要護送他回國繼位。晉懷公打聽到秦國的動靜，心裡非常害怕，就命令所有跟隨重耳流亡的晉國人在規定期限內回國，到期不歸的人，便誅殺他的全家。大臣狐突的兒子狐毛與狐偃此時跟隨重耳到了秦國，狐突非常敬重公子重耳，所以不肯召他們回國。懷公聽說以後十分生氣，便囚禁了狐突。他派人責問狐突為什麼要這樣做。狐突回答說：「臣的兒子侍奉公子重耳已經有好多年了，如今假如我召喚他們回國，那等於是叫他們背叛君主啊！我用什麼道理來說服他們呢？」懷公見狐突不肯就範，就把他殺死了。因為類似情況被殺的人不在少數，所以懷公更加失去了民心。不久，秦穆公發兵護送重耳回國，而晉國的大臣欒枝、郤榖率領他們的黨徒為內應，向晉懷公發動攻擊，結果晉懷公被殺死在高梁。重耳繼承了王位，這就是晉文公。
大難不死
重耳即位以後，雖然得到了大多數人的擁護，但是反對派的力量依然十分強大。晉惠公時期的大臣呂省、郤芮原本就不親附重耳，而且等到他即位以後，這些人的利益受到了很大的損害，於是他們就密謀焚燒國君的宮殿，試圖燒死文公。對於即將發生的一切，重耳和他的親信們毫不知情。
獻公在位時曾經奉命刺殺重耳的宦官寺人披知道了呂省等人的陰謀，就想把這件事告訴文公，以解脫自己當初的罪過。他前來求見文公，重耳對以前的事情依然耿耿於懷，就拒絕見他，並派人責備他說：「在蒲邑的時候，你追殺我，砍斷了我的衣袖。後來我跟隨翟國國君打獵，你又奉惠公之命來刺殺我。惠公限你三天之內到達，而你僅用一天便趕到了，為何如此的快呢？你還是好好想想過去吧。」寺人披托人轉告重耳說：「我是個受了刑的人，不敢用二心來侍候君主、背叛主上，所以才得罪了您。如今您即位為君，難道以後就沒有像當初在蒲邑、翟國發生的那樣的事情了嗎？況且，當初管仲射中了齊桓公的衣帶鉤，但桓公並沒有懷恨在心，而是重用管仲，並最終靠他的輔佐稱霸天下。如今我有要事相告，您卻閉門不見，不知道災禍將要臨頭了。」晉文公聽了他的話之後感到很慚愧，便接見了寺人披，寺人披便將呂省等人的陰謀告訴給了文公，文公對此非常感激，決定捐棄前嫌。