在北洋集團內部，與袁世凱、段祺瑞、馮國璋、徐世昌、張作霖等元老級人物相比，官至陸軍次長、國務院秘書長的徐樹錚只是個小字輩。時人有「大徐」「小徐」之謂，前者指徐世昌，後者即指徐樹錚。不過，「小徐」才氣過人，足智多謀，是段祺瑞最信賴的智囊和助手，在段氏執政時期，呼風喚雨，權傾朝野，親手導演了一樁樁在民國史上頗具影響的著名事件，引人矚目。由於他飛揚跋扈，為所欲為，以致四面樹敵，最終落得未能壽終正寢的可悲結局。
落第秀才投筆從戎
徐樹錚(1880-1925)，字又錚，出生於江蘇蕭縣(今屬安徽)一個窮儒之家。父親徐忠清早年科舉拔貢，以設館授業為生。母親岳氏為宋代名將岳飛後裔。徐樹錚天資聰穎，幼承庭訓，6歲能讀詩，13歲中秀才，17歲獲歲試一等第一名。18歲赴南京鄉試，名落孫山。從此厭倦科舉，認為讀書人只會鑽研八股，於事無補，決心投筆從戎，沙場立功。
1901年冬天，22歲的徐樹錚懷揣一篇洋洋數萬言的《國事條陳》，千里迢迢赴濟南投奔山東巡撫袁世凱，希望在袁氏手下謀個一官半職。幾經周折，文章被遞進巡撫府。袁世凱看罷，大加讚賞，得知作者是個年輕人，更覺得人才難得。當時袁正在守母喪，不便見客，便指派道員朱鍾琪出面接待。朱一向以名士自居，目中無人，碰到自尊心極強的徐，話不投機，雙方不歡而散。
回到投宿的旅店，徐樹錚悶悶不樂，感歎自己生不逢時，壯志難酬。他打算盡快回老家另謀出路，可是身上所帶的盤纏已所存無幾，萬般無奈，只好一面寫信向家裡求助，一面替人寫字收點潤格維持生計。
俗話說，天無絕人之路。正當他走投無路時，卻意外地遇見了時任山東武備學堂總辦的段祺瑞。當時徐樹錚或許還不知道，這次會面將成為他一生的轉折點。
那天，段祺瑞來旅店訪客，正碰上一名少年在廳堂裡書寫楹聯。時值隆冬，屋外寒氣逼人。段見寫字少年穿一件夾袍，氣宇軒昂，絲毫沒有一般讀書人的寒酸相。觀其書法蒼勁有力，頗有靈氣。他滿心喜歡，便邀請少年到房間談話。經詢問得知，少年名喚徐樹錚，江蘇蕭縣人，來此地投靠無門，正等候家裡匯寄路費。段有意考考對方，請其談談對時局的看法。徐樹錚胸有成竹，侃侃而談，將《國事條陳》的主要觀點詳加闡述，最後總結說：「國事之敗，敗於兵將之庸蹇。欲整頓濟時，捨經武無急務。」徐的觀點和段祺瑞擴充武備的思路不謀而合。段大喜過望，有心招其到麾下任職，便問道：「你願意到我這裡就職嗎？」少年不亢不卑地回答：「值得就便就。」就這樣，徐樹錚跟隨段祺瑞來到軍營，出任總辦記室(秘書)。
1905年，徐樹錚被段祺瑞保送到日本東京士官學校學習。留學期間，他每天聞雞起舞，鑽研兵法。課餘考察日本法政及規章制度，撮錄綱要，悉心揣摩，以備回國致用。1910年秋，年僅31歲的他學成歸國，被分派到段祺瑞軍營當參謀。徐樹錚自以為文韜武略，樣樣精通，躊躇滿志地準備幹一番事業。
果然，憑借精明強幹的能力和超強的記憶力，徐樹錚很快在軍營裡嶄露頭角。他常常於會客之際，一邊閱批公文，一邊接電話。儘管公文像雪片似的堆積案頭，但他對所辦文電內容過目不忘，處理得井井有條，從無差錯。每逢段祺瑞詢問，總能對答如流。段非常欣賞，稱其為奇人。而徐亦知恩圖報，對段忠心耿耿，盡力辦事。
不僅如此，徐樹錚運籌帷幄，妙計迭出，令段祺瑞更加刮目相看。辛亥革命時，段祺瑞在袁世凱面前的幾次出色表現，都是徐樹錚出謀劃策的結果。1911年10月10日，武昌起義爆發，革命黨人擁護黎元洪為都督，宣佈獨立。10月27日，清廷任命袁世凱為欽差大臣，全面節制陸海軍。袁任命親信段祺瑞為第二軍總統，主持對南方用兵。當時局勢撲朔迷離，是和是戰，段祺瑞舉棋不定。這時徐樹錚敏銳地覺察到，袁世凱玩的是「一石二鳥」的把戲，便力勸段停止進攻武昌，先與革命黨人議和，以便以北壓南，以南制北。段祺瑞深以為然，立即派徐為議和代表，秘密渡江到武昌，與黃興等人談判，簽訂了逼清帝遜位，擁護袁世凱做總統等五項協議。次年1月，清廷幾次御前會議，共和之議被擱置。26日，段祺瑞領銜拍發逼宮電報。一聲霹靂，清廷慌作一團，宣統帝迅速頒布退位詔令。這篇電文就是徐樹錚在一夜之間擬好的。
權傾朝野的陸軍次長和國務院秘書長
袁世凱竊取總統寶座後，段祺瑞任國務總理和陸軍總長，成為北洋集團中僅次於袁的第二號人物。徐樹錚由陸軍部處長、司長擢升為次長，經常代段處理部務，大權在握。此後，袁世凱加緊推進帝制計劃，北洋派文武官員投其所好，紛紛請願、勸進，但段、徐卻持反對意見。他們心裡清楚，如果袁世凱當上皇帝，以後的天下就是其長子袁克定的了，而實行共和政體，以段祺瑞的地位和資格，極有可能登上權力的頂峰。袁世凱十分惱怒，知道段的主意多半出自徐樹錚，便大罵徐該死。有一次，袁表示要把徐樹錚調出陸軍部，段祺瑞不同意，當面頂撞道：「請總統先免我的職，隨後要怎麼辦就怎麼辦！」說罷，競拂袖而去。袁乾脆一不做二不休，下令罷免徐樹錚的陸軍次長一職，以示報復。
1915年8月，隱居西山的段祺瑞密召親信徐樹錚、曾毓雋談話，對他們說：「項城(袁世凱)帝制自為之跡，已漸顯露，我當年曾發擁護共和之電，如今又擁項城登基，國人其謂我何？且恐二十四史中，亦再找不出此等人物！所以論公，我寧死亦不參與;論私，我從此只有退休，決不多發一言。」徐樹錚附和道：「第一，不論直接間接，積極消極，均反對帝制到底;第二，欲項城中途取消帝制野心，已完全失望，所以合肥(段祺瑞)還是稱病不見為上。」段照此計策行事，冷眼旁觀，拒不勸進。29日，袁一怒之下，罷免了段的陸軍總長職務。不久，又將其軟禁在舊陸軍部。
袁世凱沒有料到，他的這一做法幫了段祺瑞和徐樹錚的大忙，不僅沒有壓服對手，反而使他們成為「反對帝制」的英雄。
帝制醜劇開演後，蔡鍔在雲南宣佈護國討袁，南方各省群起響應，北洋將領也紛紛宣告獨立。在段祺瑞、徐樹錚的策動下，馮國璋等北洋都督還聯名發表「五將軍通電」，勸袁取消帝制，以安人心。1916年1月，眾叛親離的袁世凱不得不請段祺瑞出面，收拾殘局。徐樹錚不依不饒，逕直上書袁，要其立即取消帝制，並下詔罪己。3月22日，袁被迫撤銷帝制。一個多月後，段祺瑞復任內閣總理，辦的第一件事就是讓教育總長張國淦向袁進言，要徐樹錚當國務院秘書長。袁一聽，當即不悅，說：「段總理軍人，徐某亦軍人，以軍人總理而用軍人秘書長，大不相宜。」張國淦婉言相勸，袁最後表示：「總理若以徐之才可用，不妨令其為陸軍次長。」張國淦向段覆命，言未畢，正在吸煙的段祺瑞猛地將煙斗擲於桌上，
厲聲說：「到了今天，還是如此！」
袁世凱死後，徐樹錚審時度勢，又幫段祺瑞策劃利用黎元洪作傀儡，建立皖系專制統治的計謀。他對段說：「為今之計，宜請黃陂(黎元洪)繼任總統，以安民心。而後吾公乃可組織責任內閣。黃陂為人忠厚有餘，而威嚴不足，吾輩正可利用之，以厚植同黨之勢力，以展平日之政策，其有不附己者，則罷斥之、驅逐之。」
經過一番安排，黎元洪繼任總統，段祺瑞仍為內閣總理。段認為黎是自己一手扶上總統寶座的，打心眼裡瞧不起他。徐樹錚表現得更直接，對黎沒有好臉色，還常常令他下不了台。官復原職後，段祺瑞又托張國淦轉告黎元洪，仍讓徐樹錚做國務院秘書長。黎聽後搖頭拒絕：「我不能與徐樹錚共事，我怕見他。見了他，猶如芒刺在背。」經多方勸說，黎勉強答應，但提出一個條件，說自己不想單獨見徐，以後有事見面，要張陪徐一起來見。張國淦回來覆命，段聽說總統同意徐樹錚任職，十分高興，不等任命公文下發，就安排徐到國務院處理公務。
雖是個小小的秘書長，但徐樹錚的權力大得嚇人，幾乎超過了總統和各部總長。段祺瑞曾公開宣佈，總統府和國務院的「逐日文件，均由徐樹錚躬遞。該員伉直自愛，不屑妥語。其於面對時，凡有事明為祺瑞之言者，祺瑞概負全責」。於是，徐樹錚手握先斬後奏的特權，專橫跋扈，說一不二。在第一次內閣會議上，他便與黎元洪的親信孫洪伊接上了火。其時，護國軍第二軍總司令李烈鈞與皖系廣東督軍龍濟光爭奪廣東，官司打到北京。孫洪伊主張去電和解，徐樹錚卻提出閩、粵、湘、贛四省派兵會剿李烈鈞。會議通過孫的主張，徐卻擅自發電會剿。孫洪伊聞訊後找徐質問，徐強詞奪理不肯更正，雙方唇槍舌劍，互不相讓。對各部總長如此，對總統黎元洪也是這樣。在徐樹錚眼裡，黎只是個蓋印總統。有一天，徐樹錚送一份公文進府蓋印，內容是山西省更動三名廳長，黎元洪問原因何在，徐竟不耐煩地說：「總統但在後頁年月上蓋印，何必管前面是何事情！」黎大為不悅，憤慨地說：「現在哪裡是責任內閣制，簡直是國務院秘書長制。」
可是，黎元洪的親信金永炎、哈漢章、黎澍和丁佛言也不是省油的燈。他們幫黎元洪成立包括國民黨人在內的國會，制訂擴大總統權力的新憲法，並選舉馮國璋為副總統。隨後，他們又勸黎聯馮排段。徐樹錚針鋒相對，竭力勸段祺瑞聯馮壓黎。於是，雙方你來我往，爭鬥不休，終於在對德宣戰問題上釀成了府(總統府)院(國務院)之爭。
1917年6月，在英美等國和西南各省軍閥的支持下，黎元洪拒不批准段祺瑞提出的《對德參戰案》，並下令罷免段的本兼各職。段祺瑞通電下野，帶著親信退隱天津。過了幾天，徐樹錚南上北下，四處活動，企圖聯合北洋督軍擁段倒黎。不久，北洋督軍在天津成立各省軍務總參謀處，準備擁徐世昌為大元帥，建立臨時政府和臨時議會，推翻黎元洪為首的北洋政府，擁段上台。
缺乏武力依靠的黎元洪大為恐慌，遂「病急亂投醫」，把希望寄托在駐紮徐州的辮子軍首領張勳身上，頻頻電邀張入京調停。徐樹錚認為機不可失，向段祺瑞獻計：先縱容張勳復辟，必遭天下一致反對，再出師討伐之，必將成功。段以為此計甚妙，便派徐參加張勳領銜主持的第四次徐州會議。會上，徐樹錚穿針引線，聯絡北方各省督軍，竭力教唆張勳復辟。曾親口告訴張：「芝老(指段祺瑞)只求達到驅黎目的，一切手段在所不計。」會後，有人問他為什麼這樣說，徐樹錚得意地回答：「張勳是復辟腦袋。先讓他去做，我們的機會就來了！」
6月，張勳率辮子兵進京。7月1日，把12歲的溥儀再次推上皇帝的寶座，宣佈取消民國，恢復大清，立即遭到全國人民的一致譴責。7月3日，段祺瑞以徐樹錚為參贊，在天津組織討逆軍西進。徐樹錚認為，討逆的重心在蚌埠而非北京，因為進京的辮子軍只有3千餘人，成不了氣候。張勳的主力仍在徐州、海州一帶駐紮，不可不防。於是，他率部進駐蚌埠，協助安徽督軍倪嗣沖阻截辮子軍主力北上增援。
事情果然不出徐樹錚所料。困守北京的張勳孤立無援，很快便一敗塗地。徐樹錚乘機協助倪嗣沖收編徐州的張勳部隊。7月14日，徐樹錚隨討逆軍總司令段祺瑞由津入京。段祺瑞再任內閣總理和陸軍總長，重新掌握北洋政府大權。徐樹錚也官復原職，就任陸軍次長。
據說，徐樹錚與張勳私交頗厚。張長期駐守徐州，對住在徐州的徐樹錚家人多有照顧。徐樹錚助段祺瑞將其打敗，完全出於政治鬥爭、權力鬥爭的需要。1923年9月，張勳病故。徐樹錚不忘私誼，送上輓聯一副：「仗匹夫節，挽九廟靈，其志堪哀，其愚不可及也;有六尺孤，無一杯土，斯人已死，斯事誰復為之？」此聯既有對故友辭世的傷感，也對其復辟行為有所批評，用典準確，入木三分，被公認為名聯。
從秦皇島劫械到槍殺陸建章
段祺瑞重掌北洋政府大權後，繼續推行「武力統一」政策。徐樹錚推波助瀾，提出了重點進攻湖南以統一南方的策略。他說：「欲定大局，非謀統一不可;欲謀統一，非川粵同受政府節制不可。以川較粵，而粵宜急，粵定川或隨之而定。我之爭湘者，為圖粵計耳。」段依計而行，以傅良佐為湖南督軍，督率北洋軍統一湖南，伺機進攻兩廣。又以吳光新為長江上游總司令兼四川查辦使，率軍入川，窺視滇、黔。
但是，直系頭子、代理總統馮國璋不願看到皖系勢力膨脹，主張「和平混一」。雙方明爭暗鬥，勢如水火。1917年11月19日，馮國璋下令免去段祺瑞、徐樹錚本兼各職。後來，經徐世昌調解，又任命段祺瑞為參戰督辦，但直皖矛盾依然尖銳。
次年1月，徐樹錚偵知馮國璋從日本購買的一批軍械將在秦皇島上岸，然後分批運京裝備直系部隊，立即向段祺瑞報告，並建議乘機引張作霖的奉軍入關以牽制馮國璋。段祺瑞表示贊同，囑徐迅速北上。徐樹錚以支持張作霖出任副總統和瓜分軍械為條件，說動張答應聯段倒馮。進入關內是奉系頭目張作霖蓄謀已久的計劃，苦於找不到借口，這次受到皖系的主動邀請，自然不肯錯過機會。雙方一拍即合，並約定，截得軍械後，四分之三給張，四分之一歸段。奉軍入關進駐天津、廊坊一帶，迫使馮國璋恢復段祺瑞的職務並支持「武力統一」政策。隨後，張作霖命令部屬楊宇霆、張景惠率兩旅人馬迅速南下。
2月1日，徐樹錚返回天津，密電段派督軍陳樹藩、閻錫山等，佈置引奉軍入關驅逐直系勢力的計劃。過了幾天，馮國璋購買的軍械陸續運抵秦皇島，共計步槍2萬7千多支，大炮若干門，足足可以裝備4個師。25日，奉軍楊宇霆等手持徐樹錚提供的陸軍部信函，武力接收了全部軍械。緊接著奉軍5個旅強行進駐平津地區。張作霖在天津軍糧城設立奉軍司令部，自任司令，徐樹錚為副司令，代行司令職權。在此情況下，馮國璋被迫同意段祺瑞組閣，並下令直系曹錕、張懷芝部進攻湖南。
4月3日，徐樹錚得意洋洋地赴京會晤段祺瑞，商討對南方的用兵計劃，決定進攻川
粵，實現南北統一。他致電親段的張懷芝：「粵事一切均賴我兄持以堅定，乘勝直進，偉業立奏。」
秦皇島劫械後，奉系用分得的軍械裝備了2個師和7個旅，實力大增，成為北方最強大的武裝集團。徐樹錚也裝備了4個混成旅，佔據華北大片地盤。支持馮國璋的北洋將領，迅速形成了以馮為首的直系集團。直、奉、皖互相對峙，在北方形成了三分天下的割據局面。
如果說，秦皇島劫械使徐樹錚成為直系的眼中釘，那麼，槍殺北洋將領陸建章導致他陷入四面楚歌的境地。
安徽蒙城人陸建章，由小站練兵起家，成為袁世凱的親信將領。1914年，陸任陝西將軍，段祺瑞依徐樹錚之計，策動陝軍旅長陳樹藩驅陸自代。從此，陸建章對段、徐懷恨在心，四處奔走，策動北洋實力派倒段反陳。
1918年6月11日，直系軍閥曹錕主持召開天津會議，討論對南方作戰和選舉總統等問題。會上，主和的空氣相當濃厚。徐樹錚又一次代表段祺瑞赴津，力圖扭轉對段不利的形勢。這時，陸建章從上海到天津。有人說他是受馮國璋之托來做曹錕的工作，通過倡言和平迫使段內閣垮台。陸建章是直系重要的幕後軍師，馮國璋的得力助手，他的到來，使徐樹錚感到皖系將受到極大的威脅，決定採取強硬手段。
陸建章剛到天津，便接到徐樹錚的邀請，要他到奉軍司令部晤談直皖合作事宜。次日，陸建章如約前往。徐樹錚在門口迎候，十分友好，徐慇勤地請他到後花園密室中談話。當陸建章走進花園時，徐樹錚的衛士突然從後面開槍，陸應聲倒下。事發後，徐樹錚滿臉殺氣地對在場的人說：「陸建章犯了煽惑罪，已就地正法，大家不要慌，該幹什麼幹什麼。」當天，他讓總統府秘書長方樞擬了一道命令，請馮國璋蓋印發表。命令說：「陸建章在山東、安徽、陝西等地勾結土匪，煽惑軍隊，在天津煽惑時被奉軍副司令徐樹錚拿獲槍決，陸建章著褫奪軍職、勳位、勳章。」
消息傳到北京，段祺瑞大為震驚，對親信曾毓雋說：「又錚(徐樹錚)闖的禍太大了！現在這樣罷，你先到總統面前探聽他的口氣如何。你就當作我還不知道。」曾毓雋急忙跑到總統府，未等開口，馮國璋便問道：「你是為又錚的事情來的嗎？」曾回答：「是，我來請示總統，這事怎麼辦？」馮國璋雖然內心十分不滿，但嘴裡卻說：「又錚在芝泉(段祺瑞)左右，一向是為所欲為。今天這事未免太荒唐了。所好是責任內閣，你回去告訴芝泉，他怎麼辦，我就怎麼用印好了。」
身困京城的馮國璋考慮到自身的安危，被迫默認了這件事，但擁兵在外的直系將領卻不答應，紛紛致電北京政府，質問誰給了徐樹錚擅殺北洋元老的特權。張作霖害怕引火燒身，也向北京打電報，斥責徐的荒唐行為，下令撤銷其奉軍副司令的職務。
段祺瑞向陸建章的家屬贈送5千元表示北洋袍澤的舊情，還讓陸的外甥馮玉祥出任湘西鎮守使，外帶授勳，意在安撫。馮玉祥是很講策略的人，深知自己勢單力孤，以卵擊石，不僅會壞大事，而且有性命之虞。於是，立即發電報給徐樹錚，表示自己只關心舅舅的身後之事，其他一概不計。這讓徐樹錚懸著的心落了地，也馬上復電慰問，表明對陸的身後之事當悉心籌辦。
徐樹錚在光天化日之下槍殺一位現任將軍。釀成一個駭人聽聞的事件，讓世人更加厭惡皖系，同時也為自己日後落得同樣下場埋下了伏筆。
安福系的二老闆
馮國璋當上總統後，與皖系大唱反調。段祺瑞和徐樹錚策劃控制國會，和平倒馮。
1917年8月，段祺瑞與徐樹錚、王揖唐等人商量對策，徐樹錚說：「民元(1912年)以來，政府辦事，國會搗亂，往往事情辦不成，還鬧得天翻地覆。因此，不如我們搞一個組織控制國會，就像編練子弟兵一樣，可收指臂之功。」段祺瑞要他們盡快籌辦，並答應從對日借款中撥出80萬元作為籌備費。不久，徐又私自從奉軍司令部提款150萬元充作開辦經費。
開始，徐樹錚讓王揖唐、曾毓雋二人出面辦理，自己躲在幕後指揮。在他們的積極活動下，這個組織迅速發展，由10多人增加到近百人。因聚會的地點在北京西城安福胡同，故名安福俱樂部，又稱安福系。
翌年，安福系勢力漸增，其成員遍佈各省，形成了王揖唐主外，曾毓雋主內，徐樹錚指揮一切的格局。一次，徐樹錚對骨幹訓話：「安福系以效忠老總(指段祺瑞)為目的。」言外之意，段是安福系的大老闆，他儼然是二老闆。
安福系成立後干的第一件大事，就是操縱1918年的參、眾兩院選舉。這年夏天，按徐樹錚的旨意，俱樂部成員各自返回本省，代表安福系進行選舉。他們以金錢和政治勢力兼施並用，演出了一幕幕令人作嘔的醜劇。王揖唐派侄兒王丙坤去湖南任湘江道尹，企圖包辦選舉。結果大出所料，候選人未能全部當選。最後湖南督軍張敬堯無計可施，競使用偽票來達到目的。直隸、京兆兩地選舉，安福系深怕對手獲勝，想出了一條「妙計」，聲言：「奉監督諭示，京兆選票須包車送到北京，在京兆尹署開票。」事實上，他們將票箱包車送到北京後，連夜將票箱封條打開，從中換去一些選票，又加上另一些選票，然後用事先備好的封條重新封好，第二天早上送往京兆尹公署。江蘇省江寧縣的選舉更絕，縣衙乾脆命令全城公立小學停課一天，讓小學生前門進，後門出，循環往復地投票，以增加候選人的票數。為保證皖系人員當選，有些地方皖系以每票400元、800元、1200元不等的價格，公開收買選票，其中最高的竟達5000元一張。結果用於選舉的費用竟達1000萬元之巨。這年8月，新國會在北京召開。當選的400多名國會議員中，安福系竟佔380餘名。
徐樹錚控制的安福系不僅與直系、奉係爭鬥，而且與同屬皖系的靳雲鵬等人也不和。靳雲鵬是段祺瑞的老部下，一向對段十分恭敬。他為人謙和，且有勇有謀，也頗受段的器重。可是，徐樹錚一貫敵視靳，兩人爭風吃醋，貌合神離。有一次，靳雲鵬在司令部辦公，徐樹錚到他的窗外向裡窺視，不進屋而離去。靳雲鵬當即到辦公室門口，破口大罵：「徐樹錚你鬼鬼祟祟的幹什麼？盡出壞主意！」徐假裝沒聽見，快步離開。
1919年2月，總統徐世昌以第一次世界大戰結束，中國已無戰可參為借口，命令將徐樹錚指揮的參戰軍移交給陸軍部。從徐手中奪走軍權，自然受到陸軍總長靳雲鵬的擁護。但是，以徐樹錚為首的皖系主戰派卻不答應。於是，段祺瑞下令將三師參戰軍改名邊防軍，仍由徐統率。靳雲鵬十分不滿，便暗中勾結張作霖、曹錕、吳佩孚等拆段、徐的台。
不久，在徐世昌等人的支持下，靳雲鵬出任內閣總理。徐樹錚鼓動安福系三總長曾毓雋、李思浩和朱深公開倒閣。曾、李、朱有時在閣議時故意刁難靳，有時乾脆拒絕出席會議，還在報刊上公開攻擊謾罵，致使靳內閣一事難成。段祺瑞也常常因小事對靳嚴加訓斥，動輒在公文上批「交靳總理核辦」字樣，儼然以太上政府自居。
1921年2月，在徐樹錚的鼓動下，段祺瑞逼迫靳雲鵬任命皖系大將吳光新和安福系骨幹王印川為河南督軍、省長。目的在於控制河南，阻止直軍北上。徐遙控指揮，讓安福三總長逼迫靳內閣通過這一議案。段、徐此舉，遭到直系軍閥吳佩孚等人的強烈反對，靳雲鵬左右為難，便去找總統徐世昌商議，徐亦表示支持吳。他回來告訴段：「總統不肯答應。」段聞言大怒，當面罵靳：「沒有用的東西，如何配做總理！」靳雲鵬氣憤不過，於次日提出辭職。後經吳佩孚等人挽留，才收回辭呈。
3月14日，張作霖派人攜帶其親筆信赴京，勸段祺瑞支持靳雲鵬。段閱信後很不高興，既恨張多管閒事，又恨靳裡通外人。剛巧，靳雲鵬來請示匯報。段一氣之下，讓靳吃了個閉門羹。以前，儘管徐樹錚經常說靳「身在曹營心在漢」，但段祺瑞總有點不相信。這次人贓俱獲，段怎能嚥下這口氣。第二天，靳又來段宅請安，不待通報直闖內室。段祺瑞不等靳解釋，便將他臭罵一頓，罵他「目無長官」、「背恩欺師、私結外援」。靳雲鵬慌忙辯解，矢口否認。段不願聽他囉嗦，將張作霖的信猛地扔在地上，忿忿地說：「你看，這是什麼東西！」接著，又將靳大罵一頓。靳雲鵬站立不安，有口難辯，只好悻悻退出。當天，徐樹錚策劃安福系的《公言報》刊登文章，捏造靳派張志潭直接交涉山東問題的消息，指責其「陰謀賣國」。19日，徐樹錚召集皖系督軍開會，商量倒靳事宜。會議列舉靳三大罪狀，要各督軍立即致電本省，「團結北洋派真正團體討靳」。靳雲鵬自知不是安福系及其幕後老闆段祺瑞、徐樹錚的對手，只得再次辭職，以養病為名避居北京西山。
命喪廊坊
1924年10月，馮玉祥發動北京政變，直系戰敗。11月，召開天津會議，馮玉祥、張作霖擁段祺瑞為「中華民國臨時總執政」，並在北京就職。
次年1月，為尋求列強的支持，段祺瑞任命徐樹錚為考察專使，出訪歐美日本等國。12月，徐考察結束回到國內。當時，國內局勢異常複雜，北京及其周圍地區已被馮玉祥統率的國民軍和張作霖的奉軍控制，皖系勢力僅盤踞在安徽、山東等地，實力已今非昔比。段祺瑞主政北京，名義上是國家元首，但軍國大事都得看馮玉祥和張作霖的臉色行事。對這些情況，徐樹錚似乎並不在意。剛回到上海，不甘寂寞的他就發表意見說，目前的局勢下，北洋派要實行大團結，應擁段祺瑞為唯一領袖，實現直、皖、奉三系的大聯合。第二天，又去遊說直系的後起實力派孫傳芳。他的這種主張雖不是明著對付國民軍，但他所倡言的局面一旦形成，國民軍將無立足之地，加之徐曾殺害過馮玉祥的舅父陸建章，因此馮玉祥對徐的再次活躍極為不滿，決心找機會除掉他。於是，拍電報歡迎徐樹錚北上。
徐樹錚對馮玉祥不能說沒有戒心，但他想事情已經過去多年，馮大概不會再計較這陳年老賬，而且馮已表示將保證他的安全，段祺瑞又在台上，因此他覺得不會有危險。12月19日，徐乘車北上天津，準備回京覆命。
段祺瑞顧慮馮玉祥和徐樹錚的舊仇，曾派人去天津勸阻徐樹錚不要進京，徐不以為然，還請來人轉告段，他不僅要立即進京，而且還要以專使的身份晉見執政。26日，徐樹錚到京，入住無量大人胡同友人的私宅，隨後直奔南倉門段公館。段、徐見面，相對跪拜，抱頭痛哭。當晚，徐樹錚留宿段宅，兩人挑燈夜話，感慨萬千。次日，段祺瑞一方面責備他不該如此輕率，一方面又以國家元首的身份鄭重其事地進行一次公開會見，藉以確認徐作為他私人專使的地位，也是有意保護他的一種措施。
當時，馮玉祥和張作霖的關係已經惡化，雙方都在做戰爭準備，局勢非常緊張和複雜。段祺瑞一再要求徐樹錚離開北京，並直接命令交通總長龔心湛安排一列專車準備送徐出京。徐樹錚此時仍不在意，29日這一天，他上午遍訪各國公使，還出席國務會議報告自己考察各國的情況;下午出席他自己所辦的成達學校舉行的歡迎會，無所顧忌地招搖過市。在段祺瑞派人催促下，下午6時才姍姍登車出發，準備南下上海。
徐樹錚要出京的消息為國民軍將領、北京衛戍司令鹿鍾麟偵知，他用長途電話向駐在張家口的馮玉祥報告，馮當時沒有發表意見。過了兩個小時，馮玉祥打電話告訴鹿鍾麟，「處置徐樹錚的辦法，就是逮捕槍決」！鹿有所顧慮，說：「這個問題太大了吧？」馮玉祥厲聲答道：「天塌了有柱子接著！」此時，徐樹錚的專列已由北京開出，鹿急令參謀處與豐台車站聯繫，準備在豐台攔住徐樹錚，豐台車站答覆：「車已過豐台，目前尚未到廊坊。」鹿又以電話向馮報告，馮這時有些猶豫。鹿鍾麟說：「小徐一走，從此多事，如決心幹掉他，可用電話令張之江執行。」馮玉祥同意這個辦法，即命鹿轉達。鹿又用電話對駐廊坊的國民軍將領張之江傳達馮的意見，要張執行這個任務。張之江說：「此事重大，不宜魯莽。」鹿說：「這是命令！」張之江隨即派參謀長率衛隊馳往車站守候。
徐樹錚的專車行抵廊坊，聽到站台上有歡迎之聲，接著，張之江的參謀長持張的名片登車，稱張司令請徐專使下車一敘。徐樹錚恐有意外，拒絕下車，參謀長聲色俱厲，命令隨行的士兵將徐強行押下車，其隨員也均被趕下車。到張之江的司令部後，徐樹錚要求見張司令遭拒絕。一會兒，隨行人員都被押人馬棚。約一小時後，突然聽到幾聲槍響，於是大家都明白是怎麼回事了。
當天夜裡，鹿鍾麟按照事前的計劃，立即派人把住在天津的陸建章的兒子陸承武送到廊坊，讓他扮演為父報仇的角色，以便讓國民軍免去與此事相關聯的麻煩。
段祺瑞聞知徐樹錚的死訊，放聲大哭。徐樹錚對他忠心耿耿，鞍前馬後，竭力輔佐。儘管徐恃才傲物，得罪了許多人，但他對段是百分之百的忠誠，段對他也是深信不疑，兩人的相互信任和感情到了無以復加的地步。當天，段祺瑞在私宅為徐樹錚設置靈堂，並率子女悼唁。隨後，又購置一口上好棺木，將徐的靈櫬暫厝北京西山，以備日後厚葬。他還親筆書寫了《徐君樹錚神道碑》，讚揚其「殺身成仁」、「功在簡冊」。
徐樹錚的死對段祺瑞打擊太大了。他後悔自己沒有能採取有力的措施使徐逃過此劫，只能哀歎自己的勢力已江河日下，不得不接受這個大勢已去的信號。段明知此事幕後的實情，卻無可奈何，只好把這顆苦果默默地往肚子裡吞。