张学良的副官站在门厅里，隔着窗户静听父子俩争吵，激辩中，张作霖的嗓门特别大，而且越来越大：“我们兵工厂库房有二三十万条好枪，有一千多门迫击炮，还有山炮、重炮、加农炮，北伐军天上没有飞机下蛋，地下没有四条腿的骑兵，我怎么就不能统一中国？你小六子带领几十万大军不打仗，跑到我面前要撤兵。我一辈子没打过败仗，我不撤！”
张学良也早就准备了一盆浇头的冰水：“儿子哪有欺骗爸爸的，咱们东北军统一不了中国是真话！咱们只有几十万军队，现在过了黄河，再打就过了长江了。孤军深入是兵家大忌，后边没有预备队和援军。冯玉祥、阎锡山要是抄了咱们的退路，再想撤也撤不回来了。”
他还不忘提醒张作霖：“中国打内战，日本最高兴，日本对各方都支持，这是鹬蚌相争，渔翁得利！”意思是在冯阎抄东北军退路的同时，日本也可能会乘东北军主力入关，关外空虚之机，趁机抢占东三省，从而令东北军有家难归。
张作霖没有被吓住，在他看来，冯、阎是手下败将，日本人也没什么可怕的：“我就是不怕日本鬼子！”他估计南满路的关东军顶多也只有一万三千多人，一旦想打这群“日本鬼子”，只要先召集南满路沿线各县县长、公安局长开个会，定个日期，一夜之间就可以把南满路的铁轨都扒了，“拉走埋在地下”。然后再出动三十万东北军，重兵占领旅、大，“一万多日本鬼子不就交待了？咱怕日本鬼子干吗呢！”
张学良费尽半天唇舌，张作霖仍不为所动。见谈话没有结果，天色已经不早，张学良只得先退出居仁堂回去休息。
第二天傍晚，张学良再次前来劝说父亲撤兵。张作霖有一股倔强不服输的性格，你越说他怎么不行，他可能越要坚持，知父莫如子，所以这次张学良没有跟他辩论能不能统一中国的问题，而是改换策略，用了另一种说法：“蒋介石、阎锡山、冯玉祥不都是中国人嘛，都是中国人，地盘也是中国的，谁占的多点儿，谁占的少点儿，有什么关系？他怎么占，不还是中国人占中国地嘛！”
对于张学良的这些话，张作霖倒是挺能听得进去，和吴佩孚、曹锟、段祺瑞等北洋政要一样，对于内争外斗之间的区别，他分得非常清楚。
张学良告诉张作霖，如果他执意不肯撤兵，极可能与他的愿望和初衷相反：“咱东北要是丢了，就不是中国人占了，而是日本人占了，那就成了千古罪人，咱就要当亡国奴了！东北要是丢了，咱们就没有立锥之地了！现在，东北军都在关内，东北唱空城计了，不撤不行！”
张作霖听了大为动容。事到如今，他又岂能真的看不清局势，不过是不愿意承认现实罢了，更何况，他虽然不怕与日本人干仗，但那毕竟是不得已而为之，乃最后才能采取的下策。
“好，咱们撤！东北的高粱米子儿我还没吃够呢，北京的大米饭我可吃够了。现在就是请我在北京当大总统我也不当了，我什么也不当了，我回东北去！”
就在张作霖下决心息兵罢战，退出关外的时候，1928年4月19日，田中内阁突然以“就地保护侨民”为由，下令出兵山东，日军随即侵入济南。蒋介石急于北伐，既对日军的武装行动缺乏警觉，又随时准备与日军讲和，致使北伐军在冲突中极为被动，从而酿成了“济南惨案”。
日军制造“济南惨案”，往深里说，其实就是为了落实东方会议的既定方针，即阻止蒋军北上，并尽可能将国民党的势力范围限制在南方。这对张作霖维持其北京政权当然是有帮助的，看到北伐军因受日军阻挠而暂时停止不前，张作霖也重新燃起了希望，他派人到南京游说，希望双方停战言和，同时准许他“同参政事”，一致对外。
当时的南京政府主要由谭延闿、李烈钧、蔡元培三位大员当家，蔡元培不常来政府办公，谭延闿、李烈钧都主张接纳张作霖讲和，这样就形成了一份名为“请准许张作霖同参政事案”，谭延闿、李烈钧以及军方在宁代表都在上面签了字。
本来这份提案是有可能通过的，但是在即将开会讨论前，有新闻记者把消息提前泄露给了蔡元培。蔡元培得知谭、李在他缺席的情况，就想趁机通过提案，不由大为光火，当即跑去问谭、李：“是谁主张准许张作霖参政的？我们革命政府，难道从此不革命了吗？”蔡元培为人耿直，有威信，谭、李都有几分怕他，于是提案只能宣告寿终正寝。
其实谭、李、蔡都不过是毫无实权的政客，真正能够做主的还是前线的几位军方大佬。在蒋介石、冯玉祥联合召开的紧急会议上，蒋介石同意放弃北进，与张作霖划江而治，但遭到冯玉祥的坚决反对，最后会议决定绕开济南城，继续向北推进。