抗 日战争初期，山西是日军最早占领的省分之一。在山西这块地盘上，阎锡山是当时的最高统治者，就是国民政府主 席蒋中正，对阎锡山也畏惧几分，不敢轻易得罪的。阎锡山统领的部队叫晋军，由于山西与北部的绥远相邻，在历史发展中逐渐形成了晋绥军，主要活动在山西、绥远以及华北地区，其领袖人物有阎锡山、商震、徐永昌、傅作义、楚溪春、孙楚等。晋绥军的前身是清末山西新军，以后先后改称国民革 命军北方军、国民革 命军第3集团军。
面对日本帝国主义的侵略，1936年春，在太原成立了“自强救国同志会”，阎锡山任会长，下设青年、工人、民众、商人、妇女5个委员会。不久更名为“山西牺牲救国同盟会”，简称“牺盟会”。十月下旬，阎锡山邀请共 产 党员薄一波主持“牺盟会”的工作。从此，中国共 产 党在山西同阎锡山建立了特殊形式的抗 日民族统一战线，即共 产 党员戴着山西帽子，参加阎锡山的官办团体，运用山西的某些进步语言，贯彻执行党的抗 日民族统一战线的方针政策，开展抗 日救亡运动。在“牺盟会”的领导下，抗 日救亡运动蓬勃发展，太原一时成为全国抗 日呼声很高的城市，二十几个省市的数千名进步青年慕名到太原参加军政训练，为抗 日战争开始后组建新军、开展武装斗争和创建抗 日根据地做了政 治上和组织上的准备。至此，阎锡山在拥蒋的前提下，基本上确立了联共抗 日的路线。
1936年11月，阎锡山与蒋中正会商后，命令晋绥军傅作义、赵承绶等部对侵入绥东的日伪军进行反击，11月24日收复百灵庙。全国人民祝捷慰劳，士气为之一振。
早在1936年春，日本帝国主义指使伪蒙军侵占中国察北6县，同时，日本侵略军派遣大量日军军官担任伪军部队的训练和作战指挥，补给伪军大批军需品。令蒙奸德穆楚克栋鲁普部驻嘉卜寺，李守信部驻张北、庙滩，伪蒙军穆克登宝部驻百灵庙，另以伪蒙骑兵5000人驻多伦、沽源、平定堡地区，伺机向绥远发动进攻。中国国民政府绥远省主 席兼第35军军长傅作义以“不惹事，不怕事，不说硬话，不做软事”的原则同日军和德王进行坚决斗争，在军事上也作了相应的准备。1936年11月5日，日本侵略者在嘉卜寺召开侵绥军事会议，决定集中兵力向绥东进犯，企图侵占红格尔图，直逼绥远省会归绥，再分兵进占绥东平地集宁与绥西包头、河套。傅作义知道后，迅速秘密集结兵力，进行迎战部署。
11月15日，日伪军五千多人在野炮、装甲车、飞机掩护下，向红格尔图猛烈进攻。中国 军队4个多团迎击日伪军，傅作义亲临平地泉前线指挥作战。从16到18日，日伪军的连续进攻均未得逞。19日，国 军将伪军击溃，伪军败退商都。红格尔图战役后，日伪军担心国 军捣毁他们的伪政权，派伪蒙军一部进占大庙，增强百灵庙外围防御力量外，还令伪蒙军随即抽调兵力加强商都、化德的防务，并在绥北百灵庙构筑坚固的防御工事。再增派日本军官200多人补充各伪军部队任指导官。还计划抽调伪满军和日军一部由赤峰开往多伦、商都、百灵庙等地，待机进犯绥东、绥北。
此时蒋中正正集中大量军队准备“围剿”红军，仅派一小部分兵力援绥。为了粉碎日军的侵略阴谋，傅作义决定展开主动进攻作战。红格尔图战斗胜利后，11月22日，傅作义命令所属部队4个多团集结在百灵庙东南二分子、乌兰忽洞一带，选定东南山口为主攻方向，奇袭百灵庙。11月23日夜，部队冒零下42℃严寒，向百灵庙发起攻击，很快占领了外围山头，将敌压缩在山内平地。日军顾问在前沿督阵，指挥伪蒙军第二军第七师扼守女儿山进行阻击。11月24日早上，中国 军队指挥官命令山炮营进至百灵庙东南高地，集中火力猛攻女儿山，并配以装甲车队向东南山口冲击。与此同时，骑兵团攻占北山，控制了飞机场，断敌后路。敌人由东北方向败退大庙。国 军收复百灵庙，歼灭伪蒙军第7师大部。12月2日，击溃日伪军4000余人对百灵庙的反扑，歼灭敌人七百多人，并于10日收复锡林木楞庙，二十多名日本顾问被击毙，先后争取伪蒙军4个旅反正。
绥远抗战和百灵庙大捷，是中国 军队自1933年长城抗战以来取得的唯一一次完全胜利。在日本步步进逼、南京政府步步退让、中国民众抗 日愿望长期遭受压抑的情形下，极大地振奋了中国人民的抗战热情，傅作义将军的壮举，符合中国共 产 党号召停止内战、共同抗 日的一贯主张，得到了中国共 产 党的高度赞誉。
日卢沟桥事变后，全国 军民奋起抗战。8月5日阎锡山赴南京参加最高国防会议，表示拥护全面抗战，受任第二战区司令长官。当月国共第二次合作达成协议，红军改编为国民革 命军第八路军，后改称第十八集团军，编入第二战区战斗序列，进入山西作战，国共合作在山西进行抗战的局面形成。阎提出民族革 命的口号，同意由牺盟会组建新军，号称“山西青年抗敌决死队”和“太原工人武装自卫队”，并给予武器装备。9 月20日，根据中共的建议，又成立“第二战区民族革 命战争战场总动员委员会”，组建新军暂一师，以第二战区民族革 命战争战地总动员委员会主任委员续范亭为师长。
日军占领平津后，其中的一路指向山西。阎锡山于8月27日赴雁门关内的太和岭口指挥作战。 9月初，日军侵入山西，晋绥军在天镇和广灵未能阻敌前进。9月下旬，国共两党军队配合进行了平型关战役，八路军歼灭日军一千多人，取得抗战以来的首次胜利，给抗 日军民以极大鼓舞。接着，阎锡山部署晋绥军与中央军共同扼守忻口，与日军展开大规模战斗。
卢沟桥事变后，日军凭借先进的武器装备，日军在华北地区把战争从北平、天津一直打到了山西。山西如果失守，意味着整个华北战场陷入被动。守住山西成为迫在眉睫的战役，而山西的最后一道屏障就是位于山西太原的忻口。忻口，自古以来就是军事要地，它在太原的北方，是出入山西的交通要道。可以说，守住忻口，对于守住华北平原具有决定意义。对于中方来说，只要保住了忻口，也就守住了太原以北最后一道屏障。为了阻止日军在短时间内打到太原，第二战区司令官阎锡山和前敌总指挥卫立煌决定在忻口布防，集结十多万主力在此凭险据守。
但是日军机械化程度高，进展迅速，而忻口虽然早在战争爆发之初便修筑有防御工事，可是卫立煌的中央军以及傅作义等人的部队赶到忻口阵地还需要一定时间，在这段时间内，如果没有一支部队能到前线阻挡一阵子，牵制住南下的日军，那么忻口会战也将面临和之前大同会战一样流产的命运。
阎锡山对山西地理非常熟悉，自然深知原平的重要性，几经挑选，决定由晋绥军第196旅前往忻口以北十五里处的原平布防，阻击南下的日军板垣师团，又以王靖国部前往崞县修筑防御工事，两处守军呈掎角之势，抵御日军，给忻口守军进入阵地争取最少七天的时间。阎锡山的命令很简单：
“战至最后一兵一卒，也要守住阵地”。
在离忻口不远处有个小镇叫作原平镇，镇靠东有一座土城。土城东临滹沱河；西边是村子，太同公路从这里经过，附近有火车站、装备库和小学校；南通忻口、太原；北达崞阳、雁门。日军将从原平镇进军忻口。晋绥军第34军第196旅奉命到原平阻击日军。旅长姜玉贞率领部队，赶赴原平与日军交战，以拖住日军进攻的步伐，为忻口的布防和备战争取时间。
此时，突破晋北地区内长城线的日军，也在尾随追击撤退的中国 军队，寻机扩大战果。进入山西以来的胜利，让板垣师团高层十分骄横，他们甚至声称，山西只需要一个月就能占领！因此，板垣师团方面除了要求己方航空兵轰炸晋北的交通线，扰乱对手外，又以精锐第二、五混成旅团等直插忻口外围的崞县与原平。
崞县的战斗首先打响，王靖国深知轻易败退将会面临军法处置，因此命令部队在外围阻击日军，并以城中炮兵给予火力支援。但是，由于外围的守军孤立无援，防御工事又十分简陋，多被敌人炮火所摧毁，因此，为了保存力量以便于延长守城时间，王靖国只得将部队收缩入城内，与敌人对峙。
10月5日，敌人猛攻崞县城，王靖国多次组织反 攻，在鏖战中，北关守军的团部被日军空袭炸毁，团长被杀死，守军残部因群龙无首，败退下来，王靖国忙出动预备队前往堵截，防止日军趁虚而入。可是就在他把注意力放在城北的时候，其他几路日军也利用被炸毁的城墙突入城中，由于众寡悬殊，王靖国部力战一周左右，守城部队伤亡惨重，阵地很难守住。参谋长梁培璜把情况如实上报，被允许撤出阵地，并转至忻口右翼地区右侧。崞县失守。
崞县丢失后，原平成为日军重点打击的目标。还在9月下旬的一天，日军攻破阳高、天镇，南下直驱原平。当时，晋绥军第196旅原本奉命北上进军大同，结果天镇被突破，大同防御失去意义，于是这支部队由旅长姜玉贞统帅，南下代县临时驻扎，接着又接到命令前往原平驻守，姜玉贞又率领部队马不停蹄地赶往原平。他们哪里知道，自己所要面临的，将是一场无比惨烈的恶战。此时日军已经在后面追来，当天下午战斗就在原平打响。
原平阻击战国 军姜玉贞旅面对的日军华北主力板垣师团和关东军两个师团，一个混战旅团7万多人，配有多架飞机、一百五十多辆坦克，250门大炮长驱直入，其目的是迅速夺取太原。姜玉贞旅面。
从10月1日起，姜玉贞以下官兵便抱定了与阵地共存亡的决心，守军除留下炮兵驻扎城内外，其他部队全部开往城外，与敌人进行野 战。日军一开始误以为原平会轻松夺取，结果在原平城郊火车站和公路等处均遭到守军的伏击，伤亡迅速上升。眼看对手不容小觑，于是日军再度施展之前的战术，即以航空兵扫射轰炸城防内外，同时以步兵和战车部队从两翼迂回包抄守军。
由于日军提前包围了城池，从城中撤出的一百多名晋绥军伤兵转移缓慢，全部被日寇残杀于城外一里处，这自然更激发守军的斗志，使官兵们抱定必死的决心，为战友报仇。到了夜间，日军攻势减缓之时，姜玉贞派出敢死队偷袭日军的战车营地，炸毁了日军数量坦克和装甲车，为了鼓舞士气，姜玉贞自己也身挎两颗手榴弹，不时和警卫人员巡视城防。
姜玉贞部配备有三个迫击炮连，还附带有少量山炮，在这次作战中也发挥了很大的作用，到了夜间日军吃晚饭的时候，国 军炮兵向日军军营火光处发射炮弹，打死打伤不少在前沿的日军。
由于原平难以攻占，板垣师团始终难以轻易调主力南下忻口，而就在此时，晋绥军骑兵和八路军120师等部队在日军侧后方频繁袭扰，更让板垣师团进退困难，晋北战局由此竟出现了转机。按理说，到了这时候，姜玉贞旅防御至少七天的任务已经完成了，可是因忻口防御尚未完善，阎锡山命令他再坚持三天。对姜玉贞来说，手下部队减员过大，城外阵地丢失殆尽，当时已有少量日军从城镇东北角突入，如果匆忙撤退，不但不能保全自己，反而将可能被城内外日军前后夹击，到那时候伤亡会更大。因此姜玉贞和参谋长谷泰几经研究，决定继续死守，同时将卫队和勤杂人员召集起来投入巷战。
日军原以为攻入城内就可以瓦解守军意志，想不到又陷入了巷战。在这场原平城内的交锋中，日军虽然占据了城东大部分街区，但却始终无法把城西也拿下。相反，守军利用城内的房屋，全力阻击日军，甚至还在夜间组织人员突入城东，打死打伤不少日军。
连遭痛击的日军恼羞成怒，竟以屠戮城内未来得及撤离的平民进行报复，并焚烧居民房屋。这时候敌我阵地混在一块，敌我难以辨别，日军的飞机也不敢轻易投弹，这让守军免于被日军飞机轰炸，继续和日军在城内进行拉锯战，周旋苦撑。
终于坚持到了10月11日凌晨，随着忻口方面援军陆续开到，姜玉贞部的阻击任务已经超额完成，得到上峰允许撤退的命令后，旅长姜玉贞集合幸存者，从城西南炸开缺口，试图突围而出，可是，他们没有料到日军早在此布下轻重火力，在撤退中，不少官兵中弹牺牲，姜玉贞则在指挥部下突围时被日军炮弹击中而牺牲。
当196旅剩余人员突出重围，转移到太原的北营和许坦一带时，原来五千多人的主力旅，只剩下来四百多人，活下来的人没有十分之一。国 军第196旅不计代价的英勇阻击，让战争之初声称“一月拿下山西”的日军挨了一记狠狠地耳光。仅在原平一处，国 军就拖住了板垣师团达十昼夜之久。
