從19世紀末開始，出於鞏固邊疆，緩和關內人地矛盾等原因，中國政府實行了「蒙地開放，移民實邊」政策，下令在蒙古「放荒招墾」，允許和鼓勵漢人進入蒙地並耕種土地。
蒙地開放雖是大勢所趨，但在客觀上也確實讓很多不善經濟的蒙古人感受到了生存危機，由此便出現了「反墾起義」。蒙古有兩首傳唱度很高的民歌，一為《嘎達梅林》，一為《陶克陶胡》，歌中的主人公都是「反墾起義」的領導人。只是陶克陶胡發動起義的背景更為複雜，當時沙俄正在蒙古收買上層王公和匪首，積極策動以武裝叛亂為主的所謂「獨立運動」。陶克陶胡在此期間與俄國人有一定的聯繫，一些史學家認為，他實際被沙俄所操縱，為其分裂中國充當了馬前卒。
在一次武裝反墾的集會上，陶克陶胡說：「我們蒙古族人要把移入蒙地的漢人驅逐乾淨，保持我們蒙古領土完整，沒收在蒙的漢族商店的財產。」1908年，他率部進入洮南府境內，不但對漢民進行大肆劫掠，而且還把墾務局的官員抓起來，將蒙古人牽狗用的鐵鏈子套在他們脖子上，逼著他們吃狗食。
為了壯大自己的力量，陶克陶胡又與蒙古土匪白音大賚、牙仟驅等部結成了聯軍。這些草原上的「鬍子」人人乘好馬，帶刀槍，凶悍異常，牧民見到他們都非常害怕，其燒殺劫掠的範圍也遠遠超出了反墾的範圍，據說連陶克陶胡都對白音大賚等人有所不滿，因為他們「軍紀極壞，常常不加分別地劫掠漢人財物」。
陶克陶胡、白音大賚、牙仟驅三股人馬成掎角之勢，屢次襲擊官府和漢人居住區，令奉天地方政府極為不安。奉天當局曾多次組織官軍進剿，奈何對方出沒無常，「此剿彼竄，滋蔓難除」。
徐世昌出任東三省總督時，西北沿邊兩千餘里的地方已幾成蒙軍樂土，沒有一處可以真正安寧。鑒於張作霖在剿除杜立三時的出眾表現，徐世昌在與張錫鑾商量後，決定任命張作霖為蒙古剿匪總指揮，所部由五營擴為七營，急速進兵洮南。
在張作霖看來，徐世昌委以大任，是對自己的器重，此次剿匪是繼杜立三之後，又一個「功成名就之天賜良機」。可是令他沒有想到的是，要想抓住並實現這一「良機」，其難度卻超過了以往任何一次。