1912年10月份以后的东北，总兵力共有三支，除了张作霖的陆军第二十七师以外，另外还有冯德麟的陆军第二十八师以及吴俊升的陆军骑兵第二旅，此外就是一些地方部队。在这些部队当中，张作霖的实力最强，又占据着当时东北的军政中心奉天，可以说天时、地利、人和三方面因素均已具备，但要成为真正的“东北王”并没有那么顺利，他还有很多路要走，前面路上等着他的对手先后有张锡銮、段芝贵、冯德麟、朱庆澜和孟恩远等人。
先说张锡銮，张作霖对他采用的是攻心计，也就是采取种种方法逼其自动让位。清帝退位后，袁世凯掌权，袁世凯怎么会相信前清旗人赵尔巽？所以很快赵尔巽就被调去任清史馆馆长了，代之而起的是袁世凯的把兄弟张锡銮。1914年5月，袁世凯任命张锡銮为奉天巡按使，旋又改任奉天将军，授镇安上将军。这奉天将军除奉天之外，还节制吉林和黑龙江两省军务。
张锡銮也算是张作霖的老上级了。1907年张作霖调任前路巡防营统领的时候，这个人就已经是节制五路巡防营的巡防营总办了。袁世凯以为把他派来，凭着昔年的上下级关系，多多少少可以牵制张作霖。但是今天的张作霖跟那个时候已经完全不可同日而语了，张作霖有实力，有野心，而张锡銮却什么也没有，他已经是个71岁的老人了，只想平平安安地过日子，因此面对咄咄逼人的张作霖，他很有些力不从心。那个时候奉天各界都对张作霖很看好，他所在之地成为全省的政治中心，每天进出的文武官员络绎不绝，大小事情都与他相商或征求他的意见，大家普遍认为张作霖会是下一任奉天将军，张作霖也有意或者无意地纵容这种风声，目的是向张锡銮施压。在这种情况下，张锡銮处境尴尬，勉勉强强履任了一年之后向袁世凯提出辞职。1915年8月，张锡銮被调走。张作霖排挤张锡銮的目的达到了，但是奉天将军这个位子并没有给他，相反，袁世凯派来了一个更难缠的对手——段芝贵。
下面我们就说第二个对手段芝贵。段芝贵是大有来头的，此人北洋武备学堂出身，留学过日本，1912年任武卫军总司令，1913年授陆军上将，任陆军第一军军长。无论是原有职位、资历、学识、声望都远远超过张作霖。尤其重要的是，与张锡銮不同，段芝贵是带兵的人，他有自己的部队。袁世凯用他来牵制张作霖，可谓用心良苦。
1915年8月，袁世凯授予段芝贵镇武上将军，兼奉天巡按使，节制奉天、吉林、黑龙江军务，此时段芝贵才46岁，比张作霖大不了多少，正是年富力强的时候，精力无比充沛。张作霖深知段芝贵来头很大，自己惹不起，因此只能韬光养晦，等待时机。为了取得段芝贵的信任，张作霖还不惜搜购珍珠古玩，送给段芝贵的父亲，以此博取欢心。从张作霖对待张锡銮和段芝贵的不同态度上，诸位大致可以看出张作霖这个人审时而动的本领了。时利于我，则果断进击毫不容情；时不利我，则俯首贴耳极尽忠心之能事。这是张作霖在乱世之中每每胜出的关键。
如果不是发生了意外的事情，段芝贵这个太上皇那是坐稳了东北，张作霖一辈子也爬不起来。但是，上苍暗助，张作霖的机会来了，而且来得是那么的快。
这个意外的事情就是袁世凯称帝和取消帝制，时间也就在段芝贵履任东北一年左右。袁世凯称帝又取消帝制，在袁世凯自己看来那是一除一抵，什么也没有发生。但在全国人民看起来就不是那么回事了，尤其是孙中山等为首的革命党人，借着袁世凯称帝的机会举起了反袁的大旗，岂会因为袁世凯取消帝制而烟消云散？当时云南蔡锷组织了护国军，各省先后响应宣布独立，袁世凯地位岌岌可危。
袁世凯地位动摇也就牵连到了段芝贵身上，原本被段芝贵压得大气也不敢喘的东北军人看到形势突变，趁这机会提出了“奉人治奉”的口号，这里面叫得最凶的是陆军第二十八师师长冯德麟。前文说过，冯德麟这人以前也是土匪，其土匪级别比张作霖当时还要高一个等级，当年张作霖在八角台避难的时候，原本想投奔的人就是冯德麟，冯这人也有很大的野心，他跟张作霖想法一样，都想当东北王，以后他们会成为最主要的对手，不过此时两人利益是一致的。因此冯德麟找到张作霖商量，说段芝贵是帝制祸首和清朝余孽，这样的人不配统管东三省，因此需找个方法驱逐他。至于什么方法，冯德麟已成竹在胸，他让张作霖的第二十七师扮红脸，而自己的第二十八师不怕做恶人，扮白脸跟段正面起冲突，一唱一和把段芝贵吓走。
要在以前给他们十个胆也不敢，可眼下袁世凯风雨飘摇，段芝贵又粘染了复辟帝制这一不佳的名声，两人都觉得时机到了。于是张作霖入见段芝贵，说是冯德麟这个土匪不管三七二十一，硬要进奉天来惩办帝制祸首段芝贵，张作霖劝段芝贵暂且避避风头。段也不是吓大的，不过对于冯这样的土匪出身还真没有把握，兼且自己的兵不在身边，躲躲也不失为一条好计，于是就携带一批官款和军火乘专列去天津，路上由张作霖派一营兵马护送。车到沟帮子，扮演恶人的第二十八师登场了。第二十八师汲金纯旅的一个团在沟帮子火车站拦住了专列，团长邱恩荣上车，要查处帝制祸首段芝贵。当时张作霖派的一营兵马由旅长孙烈臣带领，孙旅长假装下车处理此事，之后回报段芝贵说群情激愤，保命要紧。段芝贵只好忍痛将军火和官款留了下来，只身一人逃到了天津。经此一事，段芝贵恨死了冯德麟，在袁世凯问询事情经过时，说了很多冯德麟的坏话。
段芝贵被逐，奉天保安会参议总长袁金铠等又上书“奉人治奉”，留给袁世凯的选择其实已经不多，袁已经被革命党人的“护国战争”弄得焦头烂额，又很怕东北跟革命党人走在了一起，于是在万般无奈之下，只好在有资历的“奉人”中选一个了，当时情况下有资历能稳住局面的也就张作霖和冯德麟两个人，这两个人选谁不用说诸君也知道了。冯德麟充当黑脸那可是把段芝贵得罪到骨头里去了，选谁也不可能选冯德麟。所以这冯德麟啊，野心不小，但是尽干些为他人做嫁衣的事情，没有冯德麟唱这一出戏，张作霖要想坐上奉天宝座估计是猴年马月的事了。
1916年4月22日，袁世凯任命张作霖为奉天盛武将军，督理奉天军务兼奉天巡按使。经过多年的不懈努力，张作霖终于成为奉天省军政的最高统治者。
1916年6月6日，袁世凯在全国人民的一片反对声中病死，副总统黎元洪继任大总统。黎元洪宣布恢复国会，改各地将军为督军，巡按使为省长。这样，1916年7月6日，张作霖又改任奉天督军兼省长。
张作霖费尽心机终于当上了奉天督军，但并没有完全掌控奉天，其原因就在于攫取职务相对比较容易，只要政府一纸命令就可以实现。但要让奉天各种势力俯首听命可就不那么容易了，这里面主要的反对者就是前文提到过的曾与张作霖平起平坐的冯德麟。相比张锡銮和段芝贵而言，冯德麟更难对付，因为他是土生土长的奉天人，手握重兵。从实际情况分析，张作霖兵力占优，又驻扎在奉天，且已取得奉天督军的职位，天时地利人和占尽，已经在较量中胜出，只不过张作霖所要的是冯德霖全部的人和心，这个不能硬碰硬，只能春风化雨，细水长流，所以他采取的是收服的策略，一步步安抚和收买人心。
冯德麟，字阁忱，又名麟阁，1866年生，比张作霖大9岁，奉天海城人，与张作霖同省同县。1900年7月沙俄入侵东北，到处烧杀抢掠，导致奉天各地纷纷组建民团。与张作霖在赵家庙组建民团一样，冯德麟也在辽阳组建民团，这个民团的规模还比较大，有数百人，手下有各帮头目自称一百零八将。前文述过，张作霖在赵家庙失败后，走投无路的情况下曾一度想投奔冯德麟，只不过路经八角台时被留了下来，从而以八角台为起点，逐步成就了自己的一番霸业。假如当初没被留在八角台而是顺利投奔了冯德麟，那么张作霖就只能屈居在冯德麟手下，这样的话还会有以后的张作霖吗？也许东北王就不是张作霖而是冯德麟了，当然这只是假设，历史从来不容许假设。
冯德麟由于组建民团与俄国作对，在俄国的一次突袭中被抓，被流放到库页岛，两年后才千辛万苦地逃了回来。人都说大难不死，必有后福。果然，在日俄战争时期冯德麟很自然地帮着日本人打俄国，日本人胜利后就把冯德麟推荐给了当时的东三省总督赵尔巽，赵尔巽不敢怠慢，招安了冯德麟，大约在张作霖升任前路巡防营的时候，冯德麟就已经升至巡防营左路统领，驻北镇。
从上述情况可以看出，冯德麟走的路线其实与张作霖一样，都是先匪后军的模式。这里面也有一个人曾经想走这条路的，就是前文所说过的杜立三，为什么杜立三没走通这条路结果还被杀？这里面有一个关窍，就是并不是谁都能凭实力由黑漂白的，得要有机缘。张作霖的机缘是护持了奉天总督增祺的夫人，冯德麟的机缘更厉害了，是得了日本人福岛少将的直接保荐。反观杜立三，做尽坏事不说，也没有任何机缘。当时的东北，像杜立三这样想漂白的土匪不在少数，但最终走通的就只有张作霖和冯德麟。
1912年9月，张作霖和冯德麟两个人同时被提升为师长，前文已经说过，此时看起来他们是平级的，但高下已经分出来了，因为他们的驻地不同，兵力差别也很大，自认为前辈高人的冯德麟估计那时就有些不高兴，只是没有表现出来而已。1916年张作霖被任命为奉天督军，而冯德麟只是奉天军务帮办，职位在张作霖之下。这下子这位绿林前辈不干了，认为是奇耻大辱，拒绝接受这个任命。
冯德麟有自己的一帮兄弟，有自己的地盘，也有自己的军队，后面还有日本人撑腰，对这样的人张作霖不敢也不想硬来，所以他极尽怀柔之能事，先派孙烈臣携30万元巨款到北镇慰问，又派人在奉天修建二十八师办事处，又设宴款待为其洗尘等等，总之态度是极其谦恭，就是当年东三省总督赵尔巽也没享受到这份待遇。但待遇归待遇，一旦涉及到原则问题比如冯德麟要求帮办权力与将军平等，或者要求扩充兵力等等，张作霖则是一条也不答应。两人就这么貌合神离地僵持着，虽然张作霖很努力，但是小恩小惠对于冯德麟这样的人根本就没有任何作用，除非张作霖有大恩于冯德麟，这样的可能性微乎其微。
关键时候老天爷又来帮助张作霖了，让张作霖真的做到了有大恩于冯德麟，这要从1917年7月份北京发生的张勋复辟事件谈起。这个张勋与康有为等人一起，把废黜多年的清帝溥仪请了出来，重新扶上了龙椅。照理北京离奉天远得很，复辟不复辟的压根儿影响不到冯德麟。但是诸位别忘了，冯德麟是旧派军队起家的，对清室有一定的忠诚度。张勋电召冯德麟进京，正在奉天与张作霖争得焦头烂额的冯德麟以为借此上位的机会来了，心想只要清帝一复辟，这奉天的大权不就归自己了，所以他就派先遣队200人急驰入京以示支持，并命令二十八师火速进京“赞襄复辟，保卫皇室”。
冯德麟的这个算盘打得并不怎么精明，原因是他也不看看大气候，以前袁世凯称帝全国人民都反对，袁世凯那么强势的人都因为称帝弄得身败名裂，何况仅仅只有6000人的辫子军张勋？果然，复辟只维持了12天就失败了，张勋逃进了荷兰大使馆，冯德麟则在逃回奉天途中被抓。8月15日，时任民国总理段祺瑞宣布冯德麟背叛共和的罪状，剥夺了其二十八师师长、陆军中将等一切官职和勋位，冯德麟被关押在北京，成了阶下囚。
冯德麟被囚，最开心的应该是张作霖了，等于是北京帮他除去了一个劲敌。但是张作霖并没有落井下石，反而不念旧怨，积极营救，因为冯德麟的军队还在。张作霖虽然没有读过几天书，却很明白以德服人的道理。他以二十七师、二十八师以及新整编的二十九师各旅、团、营长名义，电请段祺瑞释放冯德麟，还以辽西16县士绅的名义向段祺瑞请愿，要求从宽处理。段祺瑞和张作霖背后都有日本人支持，且当时北京政府内部直皖之争已经很厉害，为了拉拢和安抚手握重兵的张作霖，这个面子还是要给的。所以过不多久北京政府就把冯德麟放了，理由也很荒唐，说是冯德麟参与复辟证据不足。
从7月10日被抓到10月15日释放，冯德麟被囚了三个月，这是他一生中第二次坐牢。前文已经讲过，冯德麟刚刚起家时因组建大团与俄国人作对，被俄国人流放到库页岛，自己九死一生才逃了回来。而这次完全有赖于张作霖的帮助。东北人很讲义气，尤其是他们这些从土匪窝中走出来的，更把义气看得比命还重。自此以后，冯德麟把二十八师完全交给了张作霖。而自己，在张作霖的争取下当了一个三陵守护大臣，名声好听，可以与张作霖平起平坐。事实上就一虚职，负责看护满洲入关以前的三代祖陵。1926年8月11日，这位很有传奇色彩的同张作霖一个县城的老乡，颇有既生瑜何生亮之感的冯德麟，安安静静地病死在三陵守护大臣任上。
从危难之中施救冯德麟之后，张作霖赢得了二十八师官兵的支持，张作霖将二十八师旅长汲金纯提升为师长，自此以后，张作霖完全掌握了奉天的军政大权。