纵使张作霖曾经那么信任王永江，王永江又以辞职相规劝，却仍不能动摇其纵兵入关的决定。自1926年2月下旬起，随着张作霖一声令下，东北军大举入关，随后便会同张宗昌、李景林的直鲁联军向国民军发起猛攻。国民军抵挡不住，包括京津热河等地盘一一丧失，甚至一直被夹在奉冯中间的段祺瑞亦受池鱼之殃，被迫通电引退。
冯玉祥焦头烂额，为了减轻压力，只好通电下野，前往苏联考察，所有国民军均被改为西北军，由察哈尔都统张之江统一指挥。张之江坐镇张家口，将其主力部队向察绥撤退，借以保存实力，同时以一部分军队留守南口，以阻追兵。
张作霖调兵遣将，对南口形成了三面大包围之势，但却迟迟未下达攻击令。原因是他在入关后，即与吴佩孚商定，由吴主持南口战事，进攻南口也以直军为主。另外，直鲁联军收复天津后，张作霖任命张宗昌的大将褚玉璞当了直隶督办。李景林对此心怀不满，想脱离东北军，另谋出路，被张作霖及时发现并加以追缉，这就又耽搁了不少工夫。
1926年6月，吴佩孚亲自指挥和发起南口之战，他将攻占南口的任务交给直军大将田维勤，并告诉田维勤，如果攻下南口，即以察哈尔都统相酬。无奈田部多由投降过来的西北军所改编，与西北军稍一接触便马上溃散，很快就由六个旅变成了两个旅。
就在南口久攻不下之际，吴佩孚的后方又起了火——北伐军攻入湖南，相关告急电文雪片似的一日数至。万不得已，吴佩孚只得南返救急，北方军事转交张作霖负责。
第二次直奉战争后的一段时间内，乃是东北陆军的全盛期，拥有总数达六个军团的雄兵，然而张郭战争改变了这一切。那场突如其来的战争除对东北经济和民生造成极大打击外，也严重削弱了东北陆军的实力，其损失甚至超过两次入关作战损失的总和。东北陆军由盛转衰，在这种情况下，张作霖便将所余的大部分步兵精锐和全部炮兵都编入第三、第四军团，以便集中使用，也可以说，这两个军团是当时东北军中力量最强、装备也最为精良的部队。
第三军团长为张学良，第四军团长为韩麟春，按照第二次直奉战争时的模式，两军团实行合署办公，称之为联合军团。东北军曾有“五虎将”的说法，“五虎”分别为姜登选、韩麟春、郭松龄、李景林、张宗昌。如今姜登选、郭松龄已亡，李景林离奉而去，能被称为东北军名将的便只剩下了韩麟春、张宗昌。韩麟春不仅在指挥作战方面有突长，而且军事素养也要远高于张宗昌，张作霖让他辅佐少主，很明显地有替代过去“张郭配”（张学良与郭松龄）之意。张、韩在军团内也分工明确，张学良本身缺乏独立指挥大战役的能力，因此掌握的是财政和人事方面的权，军事指挥主要由韩麟春负责。
这次为了在“常胜将军”吴佩孚面前争一回脸，张作霖将联合军团和直鲁军全部投入战役，韩麟春、张宗昌这两员虎将也都被用到了刀刃之上。
1926年8月1日，东北军对南口发起进攻。南口系山丘地带，且所处地理位置优越，可就近从京绥路上征发铁板、枕木、水泥及铁丝网等物资。利用张作霖迟迟未下达攻击令的那段时间，西北军在山上构筑了坚固工事，这也是吴佩孚的直军难以攻克的原因之一，不过等到东北炮兵开上来，情况就大不一样了。
东北兵工厂可以自己生产大炮，但好马配好鞍，没有高素质的炮兵，再多的大炮也只是摆设。说起东北炮兵，就不能不提一下张郭战争时的那个炮兵专家邹作华。邹作华人称邹大虎，先后毕业于保定军校、日本士官学校，读的都是炮科。他最早服役于皖系的西北边防军，任野炮营营长，在直皖战争中，他和他所属的野炮营被奉军收编，由此奉军才开始有了建立炮兵部队的基础。
因张学良也是学炮兵出身，对炮兵很重视，所以邹作华加入奉军后，即受到张学良的信任和提拔，他的野炮营扩编为炮兵第四团，隶属于张学良、郭松龄的“二六旅”。作为东北炮兵创始和扩展的关键人物，邹作华对炮兵的技术、射击两门教育抓得非常实在，专门主办了东北炮兵军官教育班和炮兵研究班。在这两个班的倡导下，东北炮兵的素质得到极大提高。他们可以单纯依靠图上作业，在无观测无试射的情况下开始效力射，还掌握了占领遮蔽阵地的技术，观测器材则从炮队镜发展到精微仪测远机，这在民初的国内炮兵中都是很先进的。按照张学良的说法，“东北军最厉害的就是炮兵”。
早在两次直奉战争中，东北炮兵便表现不俗。那个时代国内炮兵包括直军在内，经过正式训练的不多，而且多数都是买国外的炮，一门炮顶多带五百发炮弹，只有东北军的炮兵不单训练有素，而且由于后方能大量提供火炮以及炮弹，在战场上没有束手束脚的感觉。到了第二次直奉战争的山海关战役，一阵炮击过去，直军很多带掩盖的野战工事就都被摧毁掉了，直军的炮兵阵地亦受到压制，只是郭松龄在指挥上存在一些问题，以及步兵未能很好地利用炮击成果进行突破，才使炮兵的价值打了折扣。
邹作华虽然在张郭战争中当了郭松龄的参谋长，但因为他是张学良提拔上来的，而且在巨流河战役中又发生了神秘的炮弹不安引信事件，所以事后不仅没有受到处分，还被继续委以重用，担任了炮兵军（隶属于联合军团）的军长。在此之前，国内各军事集团都没有炮兵成军的先例，东北军创造了一个纪录。
作战时，邹作华将参战炮兵部队编组成左右中央各炮兵群。每一个炮兵群所使用的火炮都不是单纯的山野炮，而是依情况分别配属榴弹炮，同时部队也不是一个连一个营地使用，而是集结各类炮兵营，组成一个密集的火力集团。这是当时最先进的炮兵群战术，国内其他部队纵有炮兵，可能也从来没有听说过。
火炮的大规模有效运用，使得南口战役的激烈程度为有史以来所鲜见。张学良当时担任的是后方总司令，但仍清晰地记得：“我们有两个炮团，七十二门野炮，最少也打了五六万发炮弹。这个炮弹虽与外国的炮弹不一样，没有那么好，可毕竟也是炮弹啊！”西北军在南口构筑的最坚固阵地称为“红工事”，最终也在凶猛的炮击下遭到毁灭性摧毁。
8月12日拂晓，东北军又投入新组建的坦克车大队，以坦克大炮作为掩护，向南口发起总攻。经两个昼夜激战，西北军全线溃退，南口至张家口一带尽为东北军所夺。