沦落为平民的冯麟阁暂时住在北京棉花胡同，生活非常贫困。后来经过老部下的斡旋，他才与张作霖重归于好，并得以重返奉天。张作霖保他做了三陵的副都统，专司奉天三家皇陵的守护以及有关地亩管理等事宜，虽无实权，但颜面上算过得去，而且每年收入也非常可观，晚年生活可以无忧。
冯麟阁仍然很少去奉天见张作霖，不过只要去了，一定会事先在长袍马褂的袖子中藏一支枪。有一次，枪从袖子里掉了下来，被张作霖看到了，他愣了愣神，然后对冯麟阁说：“大哥，你到我这还带这个？”经过那次之后，冯麟阁就不好意思再带枪了。
除冯麟阁外，汤玉麟也已与张作霖言归于好。在暂无实缺的情况下，汤玉麟被任命为军署高等顾问，每月可以得到五百大洋的津贴。以后直皖战争爆发，张作霖身边急需人才，又特别提拔他为奉军侦察队长，并派往北京活动，为其重新在军界担当实职做铺垫。
世人熙熙，皆为利来，世人攘攘，皆为利往，置身于利益场中，张作霖和他这些江湖老兄弟免不了要为此争夺，但他们终究都不会置对方于死地。某种程度上，这也可以说是当年绿林生涯留给他们的印迹——就算做不到“江湖中人，义气为重”，也得遵守“万事留一线，江湖好相见”的规矩。
冯麟阁是张作霖在奉天境内的最大也是最后一个强敌，在其落马后，张作霖先是任命孙烈臣为第二十七师师长，自兼第二十八师师长。后来因为风闻有些人要运动冯麟阁复职，他又将冯麟阁的老部下、旅长汲金纯升为二十八师师长。
汲金纯尽管原来在冯麟阁帐下效力，但对冯麟阁并不服气，还在冯麟阁栽跟头之初，他就已向张作霖靠拢。张作霖做此职务安排，也就意味着冯麟阁完全没有复职的可能了。
在与冯麟阁角力的过程中，吴俊升表面标榜中立，实际始终在为张作霖鞍前马后地效力。为了对他进行酬谢，张作霖特将吴俊升的后路巡防营与骑兵第二旅进行合并，创立第二十九师，以吴俊升为师长。吴俊升非常感激张作霖的提拔，当着面对张作霖表示“虽不能同生，但愿同死”，心甘情愿为张作霖继续舍命打拼。
至此，奉天军政大权为张作霖所一手包揽。有史家评论道：“作霖以一匹夫，起于草泽，啸聚十数不逞之徒，振臂一呼，竟得据辽东……不可谓非豪杰之士也。”
往前追溯，和张作霖情况相似的，仅有东汉末年的公孙度和明末的李成梁。后者也均为辽东土著，不过公孙度属于完全的封建割据，且占据的地域也较小，只有李成梁以臣子身份完全据有辽东，“隐然如一强藩”，和张作霖最为接近。有人甚至做出假设，认为如果当初袁世凯破格封张作霖为公侯，使之代段芝贵节制东三省，则可大得其助，洪宪帝制也许就不会失败得那么快了。还有人说，要是张勋复辟时也以东三省总督一职授予张作霖，充分满足其愿望，那么他的复辟之举也不至于昙花一现。这些假设是否成立姑且不论，但至少说明了张作霖在政坛举足轻重的影响力。
身为“奉天王”，在奉天省这块地方，可以说已无人能与张作霖争锋，能让他伤神的只剩下了财政问题。说起奉天财政，其实也就是赵尔巽出任盛京将军时好过两年，至赵尔巽二次督奉，出任东三省总督时，连他都得从日本银行借钱度日了。接下来的两任奉督，无论张锡銮还是段芝贵，面对这个问题同样都是一筹莫展，拿不出什么有效的解决办法。整个奉天省负债累累，每况愈下，除负外债一千万元外，每年还要再亏损二三百万元，开支方面完全靠继续借外债补充。
1916年当张作霖就任盛武将军兼巡按使时，奉天财政已困难至极，当年全省收入一千万元，财政赤字却高达一千三百万元，净亏三百万元，这还没有算欠的那一千万元外债。为此，张作霖在自己就职一个多星期后，即任命幕僚王树翰为奉天财政厅长，对财政进行整顿。