1912年2月22日，在袁世凯的逼迫下，清廷颁下退位诏书，令袁世凯组织临时共和政府。同一天，孙中山履行政治诺言，在南京辞去临时大总统一职，转而举荐袁世凯相代。
清帝退位后，黄兴电令蓝天蔚停止进攻，蓝天蔚将所辖军队交由袁世凯接收改编，之后选择了出洋游历。虽然表面的军事攻伐已经停止，但这并不表明革命党人与张作霖的恩怨可以一笔勾销。张榕的姐姐张焕桂、大哥张焕柏多次向新成立的北洋政府及其最高法院提出控告，要求法办张作霖。
张作霖乃手握东北兵权的封疆大吏，连袁世凯都得哄着骗着，政府自然也不能拿他怎样，只能批示让张作霖发还当年从张家抄没的财产。张作霖顾及脸面，宁愿以赠送的名义，拿出比抄没时更多的财产给张家，而不肯承认抄家的事。张家兄妹也同样憋着一口气，拒绝赠送，坚决索讨。
当年4月，黑龙江省军方代表团入关参加全国南北军统一会议，回省路过奉天时，张作霖予以了盛情款待。代表团成员刘德权告诉张作霖，南方各省对他十分痛恨和鄙视，上海舞台上演戏剧，竟然还有演员扮成“三花脸版张作霖”，加以讥笑和丑化。张作霖听后并不感到吃惊，说：“无论他们怎样毁谤我，也不能动摇我的事业，只要他们敢来，我决以铁血对待之。咱们东三省保护地方和百姓，应当成立铁血团。希望你和我时常通信联络。”
刘德权是士官生，听到他路过奉天，几个同学便相约来找他。因为张作霖曾经在省城“杀秃子”，外界都风闻其最恨留学生，听刘德权说张作霖就在现场，几个同学怕撞见，赶紧匆匆离开。不料正好又被张作霖看到了，他回头问刘德权：“这不都是你的同学吗？”
因为同样担心张作霖对士官生这个身份敏感，刘德权便回答说的确是自己的同学，不过都是规矩的人。没想到张作霖不但不在意，反而对刘德权说：“你可以告诉他们，千万不要走，我们奉天讲武堂就要开办（辛亥革命爆发后，讲武堂已经停办），都要用他们。军队没有教育哪能行呢？”
刘德权知道张作霖以前做过“胡子”，像他这样年纪轻轻就从日本留学归来的人，其实骨子里对张作霖的这种出身是很看不起的。然而张作霖的一系列言论却让他不由得刮目相看，特别是张作霖关于军队教育的认识更使他认识到，此人胸有大志，绝非一个等闲的草头王。
刘德权等人回省后，把自己的所遇所见向都督宋小濂（辛亥革命后，各省督抚均被已改为都督、民政长）报告，宋小濂也惊叹张作霖见识不凡，是个做大事的人。
几个月后的一次兵变更加证实了张作霖的魄力和能力。这次兵变起自于驻北大营的第二混成协，协统聂汝清目不识丁，平时比较倚重二等书记官朱道南。朱道南不是革命党人，但同情革命党。第二混成协的官兵以皖籍为主，安徽人占到七成，朱道南常利用同乡的关系对他们加以启发。
清朝灭亡后，一群遗老组成宗社党，把东北作为复辟基地。奉天城内时有他们活动的身影，赵尔巽、张作霖在政治态度完全改变之前，与宗社党也有联系和合作。朱道南就对官兵们说：“保皇党起来，我们汉人都是死。”
除了认为赵、张与宗社党勾结外，“客军”常受“本兵”欺压也成为官兵不满的一个重要因素。1912年6月18日是端午节，当晚一些士兵携枪出营，发动了兵变。这些士兵一路奔军械局，一路奔造币厂，余下的人在奉天省城北门外抢劫商店、银行、钱庄。一时间，枪声震耳，火光冲天，奉天城内陷入一片混乱。
第二混成协是徐世昌入奉前，从北洋陆军第二、第四两镇中挑选出来的精锐，步、炮、工加一起有十一个营，并且拥有当时最先进的二十四生大炮（生是厘米的音译，指德造二十四厘米口径的克虏伯火炮）。连日本领事都认为，在事发仓促的情况下，张作霖难以守住奉天城，因此以保护侨民为由，派人向省府要求派日军进城参加防守。
赵尔巽、张作霖自然不能干这种引狼入室的事。张作霖一边下令紧闭奉天的八座城门，一边亲自率部坚守北大门。混成协的士兵目标分散，各干各的，形不成重点，要攻城也被守军死死堵住攻不进去，气恼之下，放了把火就返回北大营去了。
聂汝清也身不由己地被裹挟到兵变中，稀里糊涂地成了兵变的指挥者。天亮后，赵尔巽派人请他进城会商善后事宜，表示今后“客军”与“本兵”可以充分合作，争取立功赎罪。
聂汝清召集全旅官兵开会，众人都认为赵尔巽是在使诱杀之计，力阻他进城。朱道南更是鼓动大家：“千载难遇这个升官发财的好机会，大家愿干，唾手可得。只要我们二十四生的大炮两响，就可以吓死赵尔巽，活捉张作霖，举聂旅长为奉天都督，大家不是都有好处吗？要是迟疑不决，大祸立至。”
官兵们听后果然都决定放弃会商，造反到底，然而聂汝清却不是一个能赌得起的人，还没等二十四生的大炮响起来，他就失踪了。朱道南见势不妙，也托词逃走。主心骨一失，军心大乱，张作霖趁机率部包围和击溃了哗变士兵。此后，他对混成协进行清洗，共擒杀变兵两百多人，两千多名有参与兵变嫌疑的官兵被陆续遣散。