至当年秋季，近千名官军乡勇逼近了杜立三的老巢后插拉村。这个村子的陈、于两家大户都有院墙和炮台，且地形险要，便于攻守。除此之外，便只有十几家孤零零的小户了。官兵进村后，全部驻扎在陈、于两家，准备休息一阵再寻找杜立三。
孰料杜立三用的不过是一招诱敌深入而已，当官兵进村时，他已率领精选的五百悍匪钻入那十几家小户里，官兵刚要休息，他们就从四面八方包围过来。顿时，枪声四起，炮火纷飞。
杜立三为了将官军一网打尽，颇花血本。他亲画图样，让人把大树干挖空，外面裹铁皮，里面放火药，再加入铁钉、铁砂、碎石等，制成了一门门土炮。军官乡勇几次欲强行突围，都被枪炮打了回去。
三天后，院中粮食断绝，只得杀马代食，饮水断绝，只得拿马尿当饮料。得悉剿匪部队陷入绝境，后方指挥官赶紧组织救援，一时却又无兵可调，情急之下，只好向附近的俄军炮兵求援。俄军炮兵架起大炮，向后插拉村连发数弹。
俄造大炮的威力自非土炮可比，当炮弹掠过村庄上空时，村民都十分惊恐。不过其实杜部并未受到什么损失，因为他们都散处于各小户中，反而陈、于两大户受到的震动更大，官军人人自危，都害怕炮弹正中落到院里来。
杜立三见俄国炮威力强大，又不知道俄军到底来了多少兵，在村民的再三恳求下，遂撤兵离去。官军虽然绝处逢生，但已狼狈不堪，之后他们便偃旗息鼓，收兵回营，自此再不敢和杜立三进行直接较量。
在官军与杜立三大战的过程中，张作霖只是个旁观者，但是看到杜立三如此不好惹，就算他的邀功之心再迫切，暂时也只能先退避三舍了。
1903年，朝廷对地方军进行整编，张作霖所部由八角台移驻新民府街，并与新民街巡捕队合并。张作霖依旧出任管带，继续与昔日的绿林同行们演着兵捉匪、猫捉鼠的游戏。在这一整年里，他就像是那个被释出五行山，跟着唐僧取经的齐天大圣一样，不惜使出浑身解数，对辽西的各路“妖魔鬼怪”东征西讨，被他击溃的大小“胡子”不计其数。
当然，剿从来都不是官军对付盗匪的唯一手段。有个叫侯老疙瘩的“胡子”，长期在新民西北和彰武边界一带窜扰，居民甚以为苦。他见张作霖做了受抚的榜样，也想学着升官发财，便通过一个中间人告知知府增韫，说自己要投诚。增韫答应下来，让侯老疙瘩做好准备，将所部开到新民府听候点编。
点编那天，增韫令张作霖率众站堂，以防不测。随即，侯老疙瘩带着四十余人进入大堂，看到他们身上都带着武器，站堂的兵丁忙喝令他们把枪放下。不料侯老疙瘩见大堂内外戒备森严，以为官军要强行缴械，竟然在增韫升堂时操起了枪。张作霖及部下早有防备，一阵乱枪打过去，当场击毙侯老疙瘩，还缴获了二十多支俄国快枪。
增韫受了一场虚惊，对张作霖大加称赞。事后，他除了将侯老疙瘩的手下全部交给张作霖改编，缴获的快枪也归其所有外，又从府库里拨出一部分银两，买了两百多支枪械送给张作霖，以示奖励。
与“侯老疙瘩案”相似的还有“五大哨案”。所谓“五大哨”，是五股绿林武装的别名，他们事前也同意接受改编，双方相约在新民府的大堂进行点编。由于有了经验教训，张作霖不待增韫吩咐，就已早做准备，在大堂上埋下了伏兵。
“五大哨”进入大堂后，循例要跪在地上，听知府宣读点编命令。可是这些人听完命令，却认为与接洽时所谈条件不符，竟然立即翻脸，并当堂鸣枪。增韫这回吓得躲到了公案底下，又幸亏张作霖及其部下开枪还击，对方抵敌不住，除当场死伤者外，其余人全都逃之夭夭，“五大哨”也从此瓦解。
张作霖逐渐成为增韫不可缺少的左膀右臂。锦西有一对“胡子”兄弟苑四、苑五，领着四百多人在当地烧杀抢掠，锦州官府束手无策，就请新民府派兵助剿。增韫命张作霖前去扫平，张作霖出手不凡，开到锦州不久就把苑氏兄弟打了个灰飞烟灭。