儘管張作霖在信中只是說老朋友聚會，但安遇吾讀過信後，還是立即意識到張作霖一定是軍事上遇到了什麼困難，非自己去不可。
張作霖是何等樣人，那也是過五關斬六將後殺出來的豪傑，他都辦不了，可想而知有多凶險。這同時意味著他安遇吾要麼不去，去了能不能再回八角台就說不定了。安遇吾對信使說：「你回去告訴統領，我隨後就到。」信使一走，他在家中殺豬宰羊，宴請鄰里和好友，為的就是當著客人的面托付後事。
安遇吾赴約後，張作霖不僅設宴款待，還親自陪同遊玩，只是對深入虎穴一事仍未有一言涉及。這樣過了一個月，安遇吾終於有些忍耐不住了，他對張作霖說：「雨亭，究竟有什麼事情，快快講。如果有用得著我的地方，我是萬死不辭。」
張作霖這才說出了行動計劃，並且說除了你安大哥，誰也無法把這件事辦好。安遇吾聽後立即答應下來：「好，我明天就去。」
第二天，安遇吾獨自一人，騎著馬向草原深處如飛奔去。在他身後，張作霖一直目送著，直到再也看不到他的影子，方轉身回去。
安遇吾很快就找到了鮑老疙瘩。他現編的一套話是說馮麟閣奪去了他的地盤，使他在八角台一帶站不住腳，所以不得不來投奔牙仟驅。鮑老疙瘩信以為真，就帶他前往牙仟驅老巢，並將他引見給牙仟驅等人。牙仟驅聽鮑老疙瘩說安遇吾如此了得，自無不予以接納之理，這樣安遇吾便在牙仟驅那裡住了下來。
過了一段時間，張作霖大營附近突然來了一群蒙軍騎兵，張作霖聞報立即率部迎擊。這些蒙軍騎兵打了幾槍就逃走了，不過臨走前卻在樹上掛了一件東西。大家近前一看，發現是一個包袱，取下來一瞧，竟然是安遇吾被卸成幾塊的屍體！
安遇吾遇害了，顯然蒙軍是在用這種方式向張作霖示威：你派來的偵察員不中用，我們已經把他給殺死了，看以後還有誰敢再來冒這個險。
張作霖見狀如遭雷擊，不由得放聲大哭起來。哭罷，他趕緊讓人把安遇吾的屍體洗淨，再用針線縫在一起，以便裝入棺內，送回原籍安葬。
就在刷洗屍體時，有人發現安遇吾的腿上有一處已經潰爛的刀傷，而且傷口裡似乎還藏著什麼東西。掰開一瞧，裡面有一個小油紙包，打開油紙包，呈現在眾人眼前的是一張手繪的路線圖。
原來安遇吾打入敵營不久，就摸清了蒙軍老巢的位置以及外界通往其老巢的道路。在將這些記好畫下來後，本來已經完成了任務，可以逃回來了，但他還想再刺殺一名蒙軍頭目，以便瓦解其力量。
為了避免逃回來的途中發生意外，安遇吾將路線圖藏在傷口裡，隨後才去進行刺殺。不料尚未展開行動，他的意圖就被蒙軍發現了，後者將他殺死，又大卸成幾塊送來張作霖處示威，但唯獨沒有對安遇吾的傷口處進行仔細搜查。
路線圖彷彿給黑暗中的張作霖送來了一盞明燈。1908年6月12日，他按圖索驥，率部突襲蒙軍老巢。蒙軍猝不及防，慌忙潰逃，卻又在潰逃途中遭遇伏擊。白音大賚手下得力干將巴塔爾被俘，張作霖下令將其斬首示眾，以振軍威。
6月28日，張作霖再次分四路發起攻擊。牙仟驅和他手下頭目黑虎竄地龍等人被擊斃，他的兩個兒子被俘。白音大賚雖然逃走，但是也頂不住張作霖的窮追猛打，不久受傷被捕，幾天後即因傷重身亡。
牙仟驅、白音大賚這邊一垮，陶克陶胡遂陷於孤掌難鳴的境地，被迫逃往大興安嶺北部的索倫山區。1909年1月，正值朝野上下歡天喜地慶賀新年之際，張作霖率軍深入索倫山區，在林海雪原中對陶克陶胡部發起猛攻。
這是張作霖在剿匪過程中所經歷的最激烈一仗，蒙軍設置了多處險要工事，火力也非常猛烈。張作霖在此役中身先士卒，衝鋒在前，雖然尖兵隊員紛紛中彈倒下，仍堅決不肯後退，最後他終於一鼓作氣，親自率隊衝上了山頂。蒙軍殘部難以抵擋，遂丟下山寨，向巴林旗方向潰逃。
1910年4月，在沙俄特務和俄國駐哈爾濱總領館的安排下，陶克陶胡繞道外蒙逃入俄境，當時他身邊僅剩下了幾名護衛。至此，內蒙局勢趨於穩定，沙俄分裂中國的圖謀也宣告破產。
張作霖深知安遇吾在其中所建之功，他除了派人把其靈柩送回八角颱風光大葬外，還將安遇吾的兩個兒子一人補一個哨官，帶到洮南進行安置。可是安遇吾留下的這兩個孩子在性格上都隨父親，不願受差事約束。他們幾次故意犯錯，希望張作霖能夠開除他們，而張作霖始終記著大哥的恩情，總是一味包涵，不肯加責。
最終，兩孩子還是開小差離開了軍營，去往哪裡，誰也不知道。一直到九一八事變後，東北局勢混亂，重又盜匪蜂起。一股土匪打進八角台，向當地商會勒索十萬元。就在這時，突然又殺出一股土匪，把先前的土匪給打跑了。商會代表想把錢交給新來的這一股，誰知那位「大當家的」聽了卻哈哈大笑，說：「我回來是保護家鄉的，誰拿出來的錢就還給誰，我是拿不起的。」
說完之後，這股人就走了。有人認識「大當家的」，說他就是安遇吾的兒子啊！