1916年9月底，巴布扎布想出新招，準備向中國軍隊已撤出的鄭家屯一線以東開進，乘虛攻入長春城。可就在他躍躍欲試的時候，派去與日軍進行聯絡的信使卻帶回了一個驚人的消息——日軍發出通告稱，嚴禁蒙軍及「勤王軍」進入鄭家屯一線以東，如果他們要強行進入，就解除其武裝。
發現老大突然變了臉，巴布扎布整個人都傻了，他急忙與宗社黨的川島浪速進行聯絡，川島答稱：「本國政府有改變方針徵兆，目前正反覆交涉，要求其繼續執行前此之政策。」
原來大隈內閣的對華政策受到元老派的批評，早就維持不下去了，被元老派選定為首相繼任者的寺內正毅主張「中日親善」，以緩和中國國內的仇日情緒。雖然寺內尚未正式組閣，但大隈內閣成員已提前處於渙散之中，曾經積極支持所謂「第二次滿蒙獨立運動」的一幫軍政要員，如參謀本部第二部長福田雅太郎、外務省政務局長小池張造、海軍省軍務局長秋山真之等紛紛離職。
巴布扎布見形勢不妙，這才急急忙忙地率部逃往外蒙。當逃到內蒙林西境內時，一看林西是一座孤城，又沒有多少守軍，就想攻下林西搶劫一把。可是他們不知道林西的守軍並不是一般部隊，乃是張作霖早年加入的毅軍，厲害得很，不管怎麼死打硬撞，城池就是攻不下來。
也是巴布扎布這廝活該晦氣，他攻城心切，親自在山上進行指揮，正拿著一個望遠鏡往城裡看呢。守軍見了立即舉槍瞄準，結果一發即中。巴布扎布一死，蒙軍失去鬥志，殘部狼狽逃往索倫山區。
索倫山區就是當年張作霖剿滅陶克陶胡部的所在，蒙軍殘部退到那裡後已是人困馬乏，紛紛倒頭呼呼大睡。不料天降大雪，雪有四五尺深，當地氣溫達到攝氏零下三十多度，一大半蒙軍官兵就這樣被活活凍死了。
還在蒙軍進兵奉天的時候，一直組織對張作霖進行刺殺的土井大佐化裝成中國人，準備帶上他的「苦力隊伍」（系從中國各地找到的遊民所拼湊而成）乘亂佔領奉天。只是奉天並沒有出現他意料中的混亂，不久蒙軍也敗逃乃至潰滅，使得他的計劃尚未能夠實施就已胎死腹中。
土井很不甘心，便帶上自擬的契約條件去與代理總領事矢田商談，目的是讓矢田支持他推翻張作霖。矢田本身和町野等人一樣，屬於保張派，又得知日本政府已改變對華方針，於是毫不客氣地拒絕了他的要求。至此，「第二次滿蒙獨立運動」遭到了完全失敗，連迴光返照的可能性都沒有了。
日方政策的變化也影響到了鄭家屯事件的談判，雙方都不再針尖對麥芒，而是彼此尋找台階，希望趕快收場，即便對於前面爭執最激烈的派駐警察一項也是如此。1916年10月27日，林權助突然在談判桌上提出，奉吉兩省「事實上已有日警派出所，並非新問題」。
林權助倒不是信口雌黃，早在日俄戰爭結束不久，日本即在東北設警所多處，鄭家屯事件後，又在奉天各處設立警察官吏派出所。問題是它跟「軍政署」一樣，並沒有得到中方的承認，日本政府自己也曾在相應條約上明文規定，非附屬地的日人必須服從中國警察的法令。
北京政府向張作霖瞭解了具體情況，但到1916年末，卻又有了在設警問題上對日讓步的初步打算。徵詢張作霖的意見，張作霖表示堅決反對，他明確表示，設警問題屬於內務行政範疇，國權所繫，不容覬覦，如果在談判中因頂不住日方壓力答應其要求，必定會貽害無窮。
1917年1月22日，經過多達十餘次的談判和反覆交涉，中日雙方終於就鄭家屯事件達成協議，主要內容為中方應申斥第二十八師師長、懲處有責任的中國軍官，以及對日人進行撫恤、道歉等。雖然仍很無理，不過與當初日方的原提案相比，已有本質不同，在至關重要的設警權等權益方面都未有絲毫讓步。
無論是鄭家屯事件，還是郭家店對付蒙軍，張作霖都是其中重要的當事者。在這些事件處理的過程中，他雖有迫不得已的妥協，但更多的還是進行極力抗爭，也因此從中積累了一定的能力和經驗。比如對付蒙軍，就是以軟磨代替硬頂，表面可與日軍立約，答應怎樣怎樣，但只要找到空隙和機會，照樣我行我素。
又比如，鄭家屯事件發生後，歐美國家曾對日本表示不滿。日本政府極為不安，為此要求中國新聞界不得報道鄭家屯事件及中日各輪談判的詳情。北京政府出於避免開罪日方的考慮，還真的以「於國交致有妨礙」為由，對國內輿論進行壓制。張作霖則持有異議，他致電外交部，主張不僅應開放國內輿論，還要將實情通告各國公使，並通過歐美報紙的報道來給日方造成壓力。後者實際成為張作霖的對日策略之一，即遠交近攻——遠交歐美，抵制日本。