最大的癥結所在仍然是徐樹錚。因為私自招兵案，張作霖與徐樹錚結怨。就在直皖尖銳對峙前，徐樹錚出任西北籌邊使，憑一己之力，未費一槍一彈，即成功取消外蒙獨立，此後開始大力經營外蒙。此為徐樹錚歷史上最大的功績，也是段祺瑞引以為豪且不肯撤換或處分他的一個重要理由，然而這同樣又引起了張作霖的不快——張作霖統一東三省後，就計劃進一步由自己來統一滿蒙，徐樹錚的所作所為顯然與此相衝突。
徐樹錚的意見左右著段祺瑞，自然也就代表了皖系方針。於是在需要站隊時，張作霖便毫不猶豫地站到了皖系的對立面也就是直系一邊，魏宗翰路經東北時所看到和聽到的一切，不過是事先編排好的一場戲而已。
來京之前，張作霖其實早就跟曹錕、吳佩孚穿一條褲子了，調停不過是幌子，其真實目的是對段祺瑞施壓，逼其不戰而降，答應直系的條件。發現自己上了張作霖的當，段祺瑞在大失所望之餘，仍堅決不肯妥協，他對張作霖說：「你去轉告曹仲珊（曹錕），吳某（指吳佩孚）不過是一個師長罷了，他要是不服，盡可與我兵戎相見，我不怕。」
張作霖幾次去團河與段祺瑞商談，把調停角色應有的中立公正立場拋棄得一乾二淨，到後兩次，幾乎已經完全成了直系的代言人。這讓皖系軍官們十分火大，徐樹錚更是極力主張趁機除掉張作霖，以絕後患，然而段祺瑞向來主張堂堂正正地進行政爭，沒有接受徐樹錚的建議。為免張作霖在團河出現意外，他在談話中就直接對張作霖發出暗示和警告：「你回你的奉天，別管我的事！」
張作霖來團河不僅帶足衛兵，還把早年前隨自己闖蕩江湖的那支八厘米套筒步槍藏在汽車中，為的就是防備萬一，但段祺瑞若真的要下決心扣留或幹掉他，仍然有著充分把握，所以在聽出段祺瑞的話外音後，頓時嚇得不輕，在與衛兵互換衣服後便急急忙忙地逃出了團河。
見段祺瑞放跑張作霖，徐樹錚急得直跺腳，連聲哀歎：「大事去矣！」就在徐樹錚繼續派人追殺的同時，張作霖已經迅速離京，他喬裝改扮，身著便服，並臨時改變了回奉線路，最終得以安全返回自己的奉天大本營。外界對此的評論是「綠林出身的張作霖具有動物般的機警」，還有人把這一對仇家的表情包疊加了起來，「與徐樹錚的唉聲長歎相反，作霖不覺得意地把眼睛瞇成一條縫，嗤笑了起來」。
對於皖系整體來說，放跑張作霖確實是大錯特錯。1920年7月上旬，張作霖宣佈「武力調停」，親自指揮七萬奉軍入關，而後又在直皖激戰的關鍵時刻直接插手，形成夾擊皖軍之勢。皖軍在與直軍交戰過程中本已陷入被動，至此士氣更加沮喪，最終落了個一敗塗地的下場。
直皖戰爭結束後，北方天下落入曹錕、張作霖之手。經過一番討價還價，兩人進行了利益再分配：曹錕在執掌中央政府實權的同時，做出重大同意，同意由靳雲鵬組閣。
靳雲鵬雖曾是段祺瑞的門生兼重要幕僚，但因與徐樹錚勢同水火，實際早已與段祺瑞及皖系分道揚鑣。他是張作霖的兒女親家，張作霖扶持他，與在東北扶持鮑貴卿是一個道理。
隨著皖系的覆滅，張作霖不僅得以操縱北京政局，而且也終於有機會替代徐樹錚，把手伸進蒙古地區了。他最早打算控制熱河。民初時的熱河包括直隸一部和蒙古南部，在行政區劃上被稱為熱河特別行政區，因為與奉天相接壤，關係密切，自然就成了張作霖統一滿蒙計劃中的第一個目標。
要控制熱河，就得把熱河都統換成自己人。可熱河時任都統姜桂題時年雖然已經八十多歲，但駐守熱河多年，更重要的是他乃毅軍元老，連段祺瑞看到都要敬其三分，張作霖一說要將姜桂題調職，各派都群起抵制，使得他不得不知難而退。
熱河暫時拿不下，只得打察哈爾的主意。察哈爾也是一個特別行政區，該地區位於內蒙南端，一左一右分別是熱河和綏遠。察哈爾都統王廷楨屬於直系，不過他參加直皖戰爭較晚，也因而得罪了曹錕、吳佩孚，所以很容易就被張作霖和靳雲鵬聯手撤掉，代之以奉軍大將張景惠。
就在張作霖思謀著下一步該如何染指熱河、綏遠的時候，從外蒙突然傳來了驚人的消息。