1916年9月底，巴布扎布想出新招，准备向中国军队已撤出的郑家屯一线以东开进，乘虚攻入长春城。可就在他跃跃欲试的时候，派去与日军进行联络的信使却带回了一个惊人的消息——日军发出通告称，严禁蒙军及“勤王军”进入郑家屯一线以东，如果他们要强行进入，就解除其武装。
发现老大突然变了脸，巴布扎布整个人都傻了，他急忙与宗社党的川岛浪速进行联络，川岛答称：“本国政府有改变方针征兆，目前正反复交涉，要求其继续执行前此之政策。”
原来大隈内阁的对华政策受到元老派的批评，早就维持不下去了，被元老派选定为首相继任者的寺内正毅主张“中日亲善”，以缓和中国国内的仇日情绪。虽然寺内尚未正式组阁，但大隈内阁成员已提前处于涣散之中，曾经积极支持所谓“第二次满蒙独立运动”的一帮军政要员，如参谋本部第二部长福田雅太郎、外务省政务局长小池张造、海军省军务局长秋山真之等纷纷离职。
巴布扎布见形势不妙，这才急急忙忙地率部逃往外蒙。当逃到内蒙林西境内时，一看林西是一座孤城，又没有多少守军，就想攻下林西抢劫一把。可是他们不知道林西的守军并不是一般部队，乃是张作霖早年加入的毅军，厉害得很，不管怎么死打硬撞，城池就是攻不下来。
也是巴布扎布这厮活该晦气，他攻城心切，亲自在山上进行指挥，正拿着一个望远镜往城里看呢。守军见了立即举枪瞄准，结果一发即中。巴布扎布一死，蒙军失去斗志，残部狼狈逃往索伦山区。
索伦山区就是当年张作霖剿灭陶克陶胡部的所在，蒙军残部退到那里后已是人困马乏，纷纷倒头呼呼大睡。不料天降大雪，雪有四五尺深，当地气温达到摄氏零下三十多度，一大半蒙军官兵就这样被活活冻死了。
还在蒙军进兵奉天的时候，一直组织对张作霖进行刺杀的土井大佐化装成中国人，准备带上他的“苦力队伍”（系从中国各地找到的游民所拼凑而成）乘乱占领奉天。只是奉天并没有出现他意料中的混乱，不久蒙军也败逃乃至溃灭，使得他的计划尚未能够实施就已胎死腹中。
土井很不甘心，便带上自拟的契约条件去与代理总领事矢田商谈，目的是让矢田支持他推翻张作霖。矢田本身和町野等人一样，属于保张派，又得知日本政府已改变对华方针，于是毫不客气地拒绝了他的要求。至此，“第二次满蒙独立运动”遭到了完全失败，连回光返照的可能性都没有了。
日方政策的变化也影响到了郑家屯事件的谈判，双方都不再针尖对麦芒，而是彼此寻找台阶，希望赶快收场，即便对于前面争执最激烈的派驻警察一项也是如此。1916年10月27日，林权助突然在谈判桌上提出，奉吉两省“事实上已有日警派出所，并非新问题”。
林权助倒不是信口雌黄，早在日俄战争结束不久，日本即在东北设警所多处，郑家屯事件后，又在奉天各处设立警察官吏派出所。问题是它跟“军政署”一样，并没有得到中方的承认，日本政府自己也曾在相应条约上明文规定，非附属地的日人必须服从中国警察的法令。
北京政府向张作霖了解了具体情况，但到1916年末，却又有了在设警问题上对日让步的初步打算。征询张作霖的意见，张作霖表示坚决反对，他明确表示，设警问题属于内务行政范畴，国权所系，不容觊觎，如果在谈判中因顶不住日方压力答应其要求，必定会贻害无穷。
1917年1月22日，经过多达十余次的谈判和反复交涉，中日双方终于就郑家屯事件达成协议，主要内容为中方应申斥第二十八师师长、惩处有责任的中国军官，以及对日人进行抚恤、道歉等。虽然仍很无理，不过与当初日方的原提案相比，已有本质不同，在至关重要的设警权等权益方面都未有丝毫让步。
无论是郑家屯事件，还是郭家店对付蒙军，张作霖都是其中重要的当事者。在这些事件处理的过程中，他虽有迫不得已的妥协，但更多的还是进行极力抗争，也因此从中积累了一定的能力和经验。比如对付蒙军，就是以软磨代替硬顶，表面可与日军立约，答应怎样怎样，但只要找到空隙和机会，照样我行我素。
又比如，郑家屯事件发生后，欧美国家曾对日本表示不满。日本政府极为不安，为此要求中国新闻界不得报道郑家屯事件及中日各轮谈判的详情。北京政府出于避免开罪日方的考虑，还真的以“于国交致有妨碍”为由，对国内舆论进行压制。张作霖则持有异议，他致电外交部，主张不仅应开放国内舆论，还要将实情通告各国公使，并通过欧美报纸的报道来给日方造成压力。后者实际成为张作霖的对日策略之一，即远交近攻——远交欧美，抵制日本。