然后，讨虏军又组织侦查，通过特务司和百姓的告密，将几个省各地的满清遗老们，采用深夜袭击的手段，将之不断斩杀，不断剪除不利于帝国的这些不稳定因素。更采取调换地方官的措施，将顺天府的地方官员，调至正定府或顺德府，让之无法与地方乡绅勾结起来，而对地方乡绅，更是毫不容情，发现一处，便施以残酷打击。
有了这些手段，稳定了后方之后，加上山东境内的黄河洪灾已经控制下来，冯云山决定发动攻打西北的战事，收复山西、陕西和甘肃蒙古等地。
于是，在太圣二年的六月开始，陈玉成率领甲三师、何贱苟率领乙六师，经直隶攻入山西，进入大同府和朔平府等地。大同和归化绥远这一带原本是满清驻兵重镇，有满蒙旗兵数万，但后来都被在绥远称帝的奕訢全部给带去攻打热河行宫，并带到了盛京，导致原本重兵把守的山西，还不到一万的清兵，于是乎，这些连奕訢都瞧不上的清兵，一听说凶狠的讨虏军杀过来，全都不是提早归降，便是一哄而散。
讨虏军占领山西和蒙古一带的重镇绥远城之后，迅速换装，四处搜集马匹，加上缴获的满蒙骑兵的战马，竟然凑齐了一支一万余骑的马兵。
而林启荣率领乙三师和石祥祯、石镇仑两人率领的义一师也从河南攻入山西南部，双方一南一北，进入山西腹地。
而山西的以晋商为首的一帮墙头草，早就组织地方乡绅商贾，敲锣打鼓迎接讨虏军进入山西个州府县衙。
这样一来，整个山西在一个多月的时间，便迅速被讨虏军占领，而且，讨虏军几乎没受到任何反抗和攻击。