解决掉冯德麟以后，奉天成为张作霖经营东北的策源地和大后方。奉天在东三省中地位排在第一，其省会所在地奉天市为东北政治、经济、文化中心。从张作霖的前几任徐世昌、赵尔巽、张锡銮、段芝贵等来看，一般奉天督军都是兼管奉天、吉林和黑龙江的军务。所以从这一点上来看，张作霖离东北王已经不远了。
张作霖还有两个对手，分别是黑龙江省督军朱庆澜和吉林省督军孟恩远。至于张锡銮、段芝贵和冯德麟，历史已经轻轻地翻过了一页，他们已不再能构成对张作霖的任何威胁了。
朱庆澜和孟恩远两人中，朱庆澜没什么威胁，因为他是个文官，虽然位列黑龙江省督军之位，但文官是没有根基的，只不过是个职务的代名词而已，只要上面一纸公文就可以撤换，所要找的只不过是个撤换的理由。真正让张作霖头痛的是孟恩远，此人手握重兵，在吉林省经营十几年，颇有根基，要对付他相当困难。这里我们先说朱庆澜。
朱庆澜，字子桥，浙江绍兴人，1875年生，与张作霖同岁。1912年，任黑龙江督署参谋长，1914年，袁世凯任命其为黑龙江省巡阅使并升任黑龙江将军(即黑龙江省省长兼督军)，这省长兼督军的职位，张作霖要到两年以后才取得。可见朱庆澜比张作霖资格更老，不过资格老是一回事，有没有根基就是另外一回事了。朱庆澜虽贵为督军，其军事实权却掌握在时任黑龙江省陆军暂编第一师师长许兰洲手上。许兰洲是河北南宫人，也是个外地人。袁世凯小站练兵时，许因为会武术而成为袁的贴身卫队，很得袁的信任。许因为手握重兵，以为有资本，像张作霖当初一样也觊觎着黑龙江省督军的位置。
苍蝇不盯无缝的蛋，朱庆澜和许兰洲的貌合神离，给了张作霖以绝好的机会。张作霖暗示许兰洲排挤朱庆澜，事成后保举他为黑龙江省督军。许于是制造旗人事端，鼓动旗人到处散发传单，导致警察干涉，这些旗人见有警察介入，非常害怕，就躲到了许兰洲的师部。许于是找到了反对朱庆澜的理由，以出面调解为名，暗中鼓动旗人代表联名电告北京政府，攻击朱庆澜等人。朱和许都是袁世凯信任的人，虽经袁世凯左右调和，但两人僵持的局面始终无法打破，万般无奈下，袁世凯将朱庆澜调走。
许兰洲成功排挤掉了朱庆澜，但是自己也没有捞到好处。为了安抚朱庆澜，同时也是为了处理好对俄关系，袁世凯又派了一位懂俄文的毕桂芳来担任黑龙江省将军兼巡阅使，让许兰洲担任军务帮办兼陆军第一师师长。
这个时候的许兰洲，其地位和处境倒有点像冯德麟，都是帮办，都是师长，也都有野心。冯德麟要对付的是张作霖，许兰洲要对付的是毕桂芳，相比而言，毕桂芳要好对付多了，因为毕无根基，没有自己的部队。事实也确实如此，许兰洲联合黑龙江省第一旅旅长巴英额、骑兵第四旅旅长英顺和第二旅旅长任国栋向毕桂芳施压，毕桂芳被迫宣布下野，将督军、省长等职务移交给许兰洲。应该说，这是许兰洲最接近成功的时候，如果他有张作霖那样的胸襟和策略的话，黑龙江省必然是许兰洲的，那此后也就没有张作霖什么事了，只要黑龙江省和吉林省联合起来(事实上以吉省督军孟恩远当时的处境，这种联合完全有可能)，张作霖想做东北王那基本上没什么可能了。
可惜的是关键时候许兰洲犯了一个小的错误。当时巴英额、英顺支持许兰洲逼迫毕桂芳下野是有条件的，那就是你许兰洲当督军没错，兄弟们跟着你混好歹也得捞点好处吧？他们当时给出的条件是巴英额升任师长，英顺兼任镇守使。也不知许兰洲哪根筋搭错了，接管督军职务后竟然不愿履行自己当初的承诺，反而任命了任国栋为师长。也许许兰洲太有个性，不喜欢英顺和巴英额这种讲条件的人。但是作为政治家，在自己羽翼未丰之时，必要的妥协和退让无论如何都是应该有的，即使你不喜欢，你也可以先任命着，以后瞅准机会再拿掉就是了，可惜许兰洲不懂这个，不懂这个就犯了大忌了。巴英额和英顺感觉自己被耍了，一怒之下发表通电要“誓师西讨，扫清妖孽”，形成了许兰洲驻兵省城，英顺、巴英额陈兵呼兰和海伦的情况，双方均处于战备状态，一触即发，从而给了外部势力介入调解冲突的机会，而这个机会被张作霖牢牢抓住了。
从许兰洲简单粗暴的处理英顺、巴英额之事从而导致一发不可收拾的情况，可以看出当时张作霖与冯德麟相争时张作霖的英明之处，冯德麟处处挑衅，而张作霖处处委曲求全，其目的就是稳住冯德麟，避免两虎相争从而给外人以可乘之机。张作霖委曲求全以待时变的策略奏了效，而许兰洲则把大好局面搞砸了。
许兰洲与英顺、巴英额陈兵相向时，北京政府正在闹着张勋复辟的事情，无暇顾及地方。张作霖趁机主动请缨要帮政府排忧解难，他派五十四旅旅长孙烈臣急赴黑龙江了解情况。由于许兰洲与英顺、巴英额双方势均力敌，谁也没有用兵取胜的把握，又担心不服调解张作霖会帮助对方，因此都表示愿意听张作霖的。张作霖也就顺水推舟向北京政府推荐了一个人，这个人既不是许兰洲，也不是英顺或者巴英额，而是此前谁也没有想到的鲍贵卿。
鲍贵卿，字霆九，奉天海城人。一看海城两个字就知道是张作霖的铁杆老乡了。1914年许兰洲当师长的时候，鲍贵卿任黑龙省第三混成旅旅长，1915年升任陆军讲武堂堂长，陆军中将。1917年7月，鲍贵卿在张作霖的推荐下出任黑龙江省督军兼省长。
这凭空冒出的鲍贵卿除了是张作霖的铁杆老乡外，他还是张作霖的儿女亲家，对张作霖来说，黑龙江省由他把持再合适不过。至于许兰洲，那是竹篮打水一场空，虽拥有军事实力，但胳膊拧不过大腿，面对着军事实力高出他不知多少倍的张作霖以及反对他的英顺和巴英额，那是一点脾气也没有了。而北京政府，1917年7月份的北京政府是段祺瑞做主，这时已经上位的张作霖在东北举足轻重，且又跟段祺瑞背景相同(背后都是日本人)，出于利益共享的关系，对张作霖推荐的新任黑龙省督军人选自是没有异议。况且该人选各方都愿意接受，从而避免了黑龙江省陷入战乱的困境，何乐而不为？
为了保持黑龙江省的稳定，张作霖借段祺瑞之手，将许兰洲的第一师调到奉天省，放在了自己的眼皮底下，从此许兰洲不作他想，安安心心地归在了张作霖的手下，成为奉军中的一支精锐。就这样，张作霖不仅顺利地拿下了黑龙江省，还收获了一支原本有可能成为对手的劲旅，这没本钱的买卖做得实在划算。
收服黑龙江省后，下一个要对付的就是吉林了，吉林是最难对付的。前文已经说过，时任吉林省督军为孟恩远，孟恩远在袁世凯小站练兵时即已投入其麾下。1907年就开始在吉林任记名提督。1912年，袁世凯任命其为吉林省陆军第二十三师师长。1914年，升任镇安左将军督理吉林军务。1916年改任吉林督军。孟恩远在吉林经营多年，已将吉林省打造成了自己的自留地，其外甥高士傧是吉林督署的参谋长，又兼师长。女婿陆承武的父亲是直系里面很有影响的陆建章，也就是说朝中有人。
但是此时的吉林省形势非常不妙。当年许兰洲一个小小的失误导致他本人阴沟里翻船，把到手的黑龙江省督军硬生生地送给了张作霖的亲家鲍贵卿。许兰洲这一送不打紧，东北的整个形势顿时逆转，原本有望形成黑吉两省联合对抗奉天的局面，如今成了黑龙江与奉天夹击吉林省的状态。诸君知道，从地理位置上看，吉林省处在黑龙江省与辽宁省(即那时的奉天)之间，从战略态势上看是腹背受敌。不仅仅如此，从中央层面来看，此时直皖之战还没有发生，掌实权的还是皖系的段祺瑞，皖系的势力正如日中天。孟恩远虽然与直系有关系，但是不仅得不到多少帮助，反而要受到中央层面皖系的打压。
屋漏偏逢连夜雨，让孟恩远最担心的事情发生了。1918年9月4日，徐世昌当上了总统。前文说过，徐世昌当年是东三省总督，一手把张作霖扶上旧军五路巡防营统领之一，并将其部队扩编至3500人，成为旧军中实力最强的部队，从而为张作霖迅速崛起创造了条件。这位徐世昌总统一上任，他做的第一件事就是任命张作霖为东三省巡阅使，可见对张作霖的信任和器重。
东三省巡阅使是个什么职位，东三省巡阅使实际上就是清廷时期的东三省总督，位置在各督军之上，也就是说张作霖已经变成了孟恩远的上级，可以名正言顺的对孟恩远发号施令了。天时地利人和占尽的张作霖没有像以前对待冯德麟那样采取怀柔政策，相反，他采取的是兵临城下的威逼。1919年6月，张作霖以东三省巡阅使身份，电请徐世昌将孟恩远他调，而以黑龙江省督军鲍贵卿继任，黑龙江省督军则由孙烈臣担任。
1919年7月6日，北京政府下令免去孟恩远吉林督军职务，调孟恩远为惠威将军，这是个有名无权的虚职。面对张作霖的咄咄逼人，孟恩远的可选项已经不多。道理上，张作霖是自己的上级，还有北京政府的命令，自己不走那就是抗命，予人以口实；形势上，黑龙江与奉天对其夹击之势已成；军事上，自己的军力本就敌不过奉天，再加一个黑龙江，那是必败之局。但他在部下的支持下还是兵行险招，拒不卸任，以此看看接下来张作霖如何打算。张作霖并没有给他任何机会，他立即向北京政府请求了讨伐令，组成了吉林讨伐军，调兵向吉林进发。大兵压境之下，陷入绝境的孟恩远终于选择了妥协，在得到张作霖保全其个人生命财产安全的承诺后，交出了吉林省督军大权。其部下反抗最强烈的高士傧师长和高夙城旅长，见事已至此，只好放弃了抵抗，身着便装逃往他方。障碍扫除了。张作霖下令：将鲍贵卿调到吉林，任吉林督军；将孙烈臣调到黑龙江，任黑龙江督军。
至此，张作霖完完全全地掌握了东三省的领导权，成了名副其实的东北王。