而日军方面虽然占据了号称“华北屋脊”的山西，一度处于东可越黄河而进犯陕甘宁革命根据地，南可侵中原锦绣河山的有利态势。但是深入敌后的八路军却成功地展开了依托恒山、五台山、管涔山、太行山、吕梁山的晋东北、晋西北、晋东南和晋西南四角，对进占太原及正太、同蒲沿线之日军，形成战略包围的态势，同时对正面作战的**部队也起到有力的配合作用。
日军在侵华战争中曾在济南、郑县等多处突破黄河防线，但是始终未能突破陕甘宁边区的河防。1938年3月中旬，日本陆军第一○八师团一部由蒲县西犯，企图威胁河防。但是八路军第一一五师主力于晋西南午城、井沟地区连续数日作战，歼敌千余人，粉碎了日军西犯河防企图。同年9月，日本陆军第一○八师团又以一部沿汾离公路西犯，先后占领离石、柳林，进逼军渡、碛口，直接威胁河防和陕甘宁边区。八路军第一一五师主力于汾离公路的薛公岭、油房坪和王家池，先后伏击日军，三战三捷共歼敌1200余人，再次粉碎了敌西犯河防企图。
此外，在1938年至1939年日军向神府、碛口、宋家川、凉水岩、马头关等河防的多次进犯中，晋西北、晋西南根据地军民，在敌侧后积极开展游击战，钳制日军西犯行动，袭击敌运输队，切断其交通线，在河西军民的英勇顽强抗击下，使日军腹背受击，不得不从河防撤退。
在这样的情况之下，山西抗日根据地自然被日本侵略军视为心腹之患，日本陆军华北方面军将山西抗日根据地作为主要作战地区，以便打击八路军主力，袭击北方局和八路军总部指挥机关，摧毁**所领导的抗日根据地。1937年至1938年，日军在山西先后投入第五、第二十、第一○八、第一○九师团、第二十六师团一部及独立混成第三、第四旅团作战，以占华北方面军总兵力的12，频繁地向山西抗日根据地实施大规模的围攻和“扫荡”。
但是到1939年山西的抗日根据地不仅粉碎了日军的“扫荡”，更打退了阎锡山的军事进攻。1940年八路军晋察冀军区以39个团、第一二○师以20个团、第一二九师以46个团，在数十万民兵游击队支援配合下发动的百团大战，也是以晋东北、晋西北、晋东南抗日根据地为依托，以正太铁路和同蒲铁路为主要进攻目标而展开的。百团大战歼敌伪4万余人，打破了日军的“囚笼政策”，使日军华北方面军遭到沉重打击。
独立自主的山地游击战本来就是中国**人领导工农武装的拿手好戏。因此即便日军调集多个旅团主力数万兵员的大围攻，抗日根据地也往往是越战越强，根据地反而日益巩固和扩大，山西四隅的抗日根据地最终成为将抗日游击战争推向平原、扩展至全华北的首批巩固的山区抗日战略基地。
冀鲁平原人口稠密，物产丰富，平汉、津浦铁路纵贯南北，是日军力图控制的地区。发展平原抗日游击战争，可以打破日军对平原地区的统制和掠夺，使平原地区的人力、物力和财力资源，成为坚持长期抗战的基础。八路军在山西“四角：战略展开，开展山地游击战争，创建了巩固的山区抗日根据地，在山岳地带站稳了脚跟，最终为八路军主力深入平原开展游击战争，建立平原抗日根据地创造了有利条件。1938年1月和3月，第一二九师已先后派出由副旅长陈再道率领的东进纵队和师政治部副主任宋任穷率领的骑兵团，由太行山区进入冀南开展抗日游击战争。
4月26日，第一二九师副师长徐向前率领该师第三八五旅之第七六九团、第一一五师第三四四旅之第六**团及第五支队（即曾国华支队），由山西辽县出发，于5月初抵达河北省南宫地区，与先期到达的东进纵队、骑兵团会合。5月，第一二○师宋时轮支队从山西雁北出发，抵达平西斋堂、杜家庄地区，与晋察冀军区邓华支队合编为八路军第四纵队，6月上旬挺进冀东。7月，第一一五师组成的第五支队和第一二九师组成的津浦支队，由冀南出发，挺进冀鲁边的乐陵、宁津地区。9月，第一一五师政治部副主任兼第三四三旅政治委员萧华率该旅司、政机关及补充团部分干部，由山西出发，抵达乐陵，成立了八路军东进抗日挺进纵队。由山区战略基地派出的多支劲旅，迅速扩展到辽阔的冀鲁平原。
面对中国**人所领导的八路军越战越强的情况，日本陆军华北方面军不得不承认一个痛苦的事实，那就是山西不仅没有成为他们窥测中原大地的绝佳据点，相反正日益成为吞噬其有限机动兵力的黑洞，这种鸡肋般的感觉迫使日本军方不得不认真考虑如何收缩战线，通过以华制华的方式，从山西地区抽身而出。于是出现请回阎锡山重掌山西的情况也便不足为奇了。
对于拉拢阎锡山令其脱离重庆政府，协助围剿山西的八路军日本山西派遣军方面可以说还是作了相当多的工作的。除了给予经费、武器的接济之外，还在1941年6月间主动将位于晋中盆地西南隅的孝义县移交给了晋绥军方面。孝义县背倚吕梁山脉，衔吕梁之雄峰；面俯晋中盆地，吞汾河之浩水。自唐以来，便是闻名—方的特产富庶及商贾云集之地。
阎锡山也深知日本方面移交孝义为的是令自己与日本方面的妥协大白于天下，因此曾私下与晋绥军的将领们分析过利弊：“这次对方把孝义让给咱，**可以直接打咱们，可能为了他们出师有名，大大宣传咱和日本人妥协、投降，对咱很不利。但这个县可以征到不少粮食，一县可抵晋西四五个县，还可以伸展到平遥、介休边上，这又对咱有利。”可见经过了多年寄居陕西的日子，阎锡山还是改不了他的精明和算计。而对于日军提出的包括“以离石—军渡公路为界限，离石公路以北地区由日军对八路军进行围剿，；离石—军渡公路以南，汾阳、孝义以西地区，由晋绥军负责围剿的，必要时双方可以实行‘会剿’。”等要求，阎锡山也开出了“亚洲同盟，共同防共，外交一致，内政自理”的条件，而其中的要害自然还是“内政自理”这一条，显然阎锡山本人依旧念念不忘要将山西作为自己的独立王国。
但是自抗战以来，晋绥军上下及三晋百姓都与日寇有过浴血抗争，死伤累累、家破人亡者不再少数。陡然之间为了阎锡山的个人利益变仇寇为盟友，即便是对阎锡山忠心耿耿的晋绥军高级将领心中也不免有一种说不出的滋味，十分尴尬。而普通士兵和山西民众更对曾经为自己带来过辉煌和繁荣的地方长官采取如此的举措去应对外侮，颇感气愤和不屑。
自从1937年日本全面发动侵华战争以来，美日关系逐渐恶化。到1940年，由于受德国席卷中、西欧的刺激，加上对华战争一时难以取得决定性战果，国内对战略物资（尤其是石油）的需求又日渐迫切，日本决定加大向东南亚扩张的进度，从而引起了美方的极度不安。但是美日之间依旧没有撕破最后的的遮羞布，一边是双方剑拔弩张的全面对峙，一边却是紧锣密鼓的谈判和磋商。
因此日、美和谈之说，在正处于相持阶段的中国战场之上哄传一时。阎锡山一度认为日、美必然会和，罗斯福可能牺牲中国，迁就日本，蒋介石在这种情况下，必然先和日本妥协。而晋绥系统的高级干部，大都附和阎这个说法，只有孙楚一人认为日、美必战，日本必败。但是阎锡山根本不理睬孙的意见，抱着他一贯要依靠日本帝国主义扩张实力、统治中国人民的野心，深恐美、日妥协，日本帝国主义势力再扩张后，抛弃掉他。因此，更积极向日方献媚，和其加强勾结。
但是但另一方面，他又怕一下子拿不稳，所以也不得不观望一下，看看日、美和谈的结果如何。虽然嘴上说不耻做汪精卫那样的货色，实际上是时机还不够成熟，怕贸然去到太原，落个“赔了夫人又折兵”。同样是精明和算计，而随着1941年12月17日日本海军联合舰队“奇袭珍珠港”，太平洋战争全面爆发，阎锡山不得不暂时采取观望态度，虽然日本在开战之初势如破竹，但是终究是与美国存在着实力上的差距，在此时卖身投靠最终很可能只是空落一个汉奸的骂名，因此阎锡山只能继续与日方虚以委蛇下去。