从19世纪末开始，出于巩固边疆，缓和关内人地矛盾等原因，中国政府实行了“蒙地开放，移民实边”政策，下令在蒙古“放荒招垦”，允许和鼓励汉人进入蒙地并耕种土地。
蒙地开放虽是大势所趋，但在客观上也确实让很多不善经济的蒙古人感受到了生存危机，由此便出现了“反垦起义”。蒙古有两首传唱度很高的民歌，一为《嘎达梅林》，一为《陶克陶胡》，歌中的主人公都是“反垦起义”的领导人。只是陶克陶胡发动起义的背景更为复杂，当时沙俄正在蒙古收买上层王公和匪首，积极策动以武装叛乱为主的所谓“独立运动”。陶克陶胡在此期间与俄国人有一定的联系，一些史学家认为，他实际被沙俄所操纵，为其分裂中国充当了马前卒。
在一次武装反垦的集会上，陶克陶胡说：“我们蒙古族人要把移入蒙地的汉人驱逐干净，保持我们蒙古领土完整，没收在蒙的汉族商店的财产。”1908年，他率部进入洮南府境内，不但对汉民进行大肆劫掠，而且还把垦务局的官员抓起来，将蒙古人牵狗用的铁链子套在他们脖子上，逼着他们吃狗食。
为了壮大自己的力量，陶克陶胡又与蒙古土匪白音大赉、牙仟驱等部结成了联军。这些草原上的“胡子”人人乘好马，带刀枪，凶悍异常，牧民见到他们都非常害怕，其烧杀劫掠的范围也远远超出了反垦的范围，据说连陶克陶胡都对白音大赉等人有所不满，因为他们“军纪极坏，常常不加分别地劫掠汉人财物”。
陶克陶胡、白音大赉、牙仟驱三股人马成掎角之势，屡次袭击官府和汉人居住区，令奉天地方政府极为不安。奉天当局曾多次组织官军进剿，奈何对方出没无常，“此剿彼窜，滋蔓难除”。
徐世昌出任东三省总督时，西北沿边两千余里的地方已几成蒙军乐土，没有一处可以真正安宁。鉴于张作霖在剿除杜立三时的出众表现，徐世昌在与张锡銮商量后，决定任命张作霖为蒙古剿匪总指挥，所部由五营扩为七营，急速进兵洮南。
在张作霖看来，徐世昌委以大任，是对自己的器重，此次剿匪是继杜立三之后，又一个“功成名就之天赐良机”。可是令他没有想到的是，要想抓住并实现这一“良机”，其难度却超过了以往任何一次。