何成浚北上后，果然不费什么力气就说服了阎锡山。1927年6月上旬，阎锡山声明服从“三民主义”，在山西全境悬挂国民党的青天白日旗，随后他就任国民革命军北方总司令，所部也全部改称国民革命军。何成浚接着又造访张学良，并通过张学良等人向张作霖提出“南北议和”的条件：张作霖要和阎锡山一样，宣布信奉“三民主义”，同时将安国军改为国民革命军，由此便可委任他为“东北国民革命军总司令”，继续维持东北。
阎锡山受蒋介石之托，也派代表到北京，以奉方易帜，改挂青天白日旗为条件，斡旋成立“奉、宁、晋三角同盟”。
在当时东北军连吃败仗的情况下，张作霖认为“南北议和”可以，但双方地位应该对等，而蒋、阎这些条件却是要迫使自己屈从于南方，是他绝不甘心也无法接受的。
6月11日，张作霖在顺承王府召开奉系将领会议，讨论与南方的和战问题。所有高级将领里面，唯张学良早有向南方完全妥协的想法，但他和韩麟春尚远在新乡，而且在新乡计划的部分内容泄露后，张作霖非常警觉，对他的相关意见也采取了坚决拒绝的态度。其他人都视蒋介石的条件为投降，谁都不愿意就此向南方称臣，只是他们又分成两派。一派以张作相、吴俊升为代表，对打下去无信心，主张退守关外。另一派以孙传芳、张宗昌为代表，这两人都是比较能打的战将，声言就算打到最后一人也不轻退。
两派各执己见，吵到不可开交。杨宇霆见状，怕引起奉系内部新的分裂，赶紧说“北方必须团结起来才能抵御南方”，他建议将各省军队的名称统一起来，全部改用安国军旗帜，一致服从安国军总司令也就是张作霖的命令。孙传芳一听立刻补充道：“不仅军事上要服从，政治上也要服从。”
经杨宇霆、孙传芳的提议，会议话题被引到了如何在政治上对北方进行统一。原先一直被搁置的张作霖“称帝”被顺理成章地放到了桌面之上，杨宇霆也不再对此表示反对。讨论时，有人主张拥戴张作霖为临时总统，有人主张沿用段祺瑞临时执政的名义，最后决定仿照孙中山的先例称“大元帅”。
意识到终于可以“登基”了，本来已经被战事弄得有些沮丧的张作霖雄心顿起，他望了孙传芳一眼，问道：“馨帅（孙传芳字馨远）还有多少兵？”孙传芳回答：“还有十三万人。只要雨帅接济军饷子弹，继续作战毫无问题。”
张作霖当即答应拨给孙传芳军饷五十万，子弹可就近向山东领取。接着他又回头问张宗昌、褚玉璞：“你们两位守得住山东、直隶否？”张、褚齐声答道：“进取不足，退守有余。”
听到这里，张作霖十分高兴地说：“好极了，你们要怎么办，我都依从你们便是。”
当天，按照杨宇霆的建议，北方镇威军（即东北军主力的名号）、直鲁军、东南五省联军一律统称“安国军”，安国军共分七个军团，囊括了以上全部军队。
1927年6月18日，在众将的拥戴下，张作霖正式就任海陆军大元帅，登上了他梦寐以求的“皇帝”宝座。就职典礼在怀仁堂举行，张作相、吴俊升、杨宇霆、孙传芳等人一直都在张作霖身边随侍，然而张作霖坚持要等到张学良、韩麟春从前线赶到方肯就职——舐犊之情，人皆有之，何况是非常看重父子伦理关系的东方社会。张作霖时年已经五十二岁，即便他对儿子再不满意，也只能把未来希望寄托于这位“太子”的身上。
由于是在强敌环伺的情况下“登基”，各国对张作霖政权都表现得很冷淡，没有一国肯以国家的名义表示祝贺，这是历届北京政府都没有遇到过的。时隔一周，张作霖来到天坛，祭告中华列祖列宗。正当他捧爵而祭，喃喃祈祷时，一不小心竟将金爵摔落在地，在场众人看到后都认为此乃凶兆。
尽管场面冷清还被说成有凶兆，但仍盖不住张作霖亲政的热情。在怀仁堂，他召集大家训话，态度非常率真老实：“一个人活在世上，总不过是为名为利。我现在钱同产业很多了，可以说我的子孙也用不完。这一次来北京就大元帅职，是为求名而来。能为老百姓做一点好事，就是有名了，我总尽我的力量去干。”