公元10世纪到13世纪，契丹、女真、蒙古等少数民族政权相继崛起，争夺领地。山西地区又是首当其冲，成为各方最为重要的争夺地带。

宋与辽交战

最先开始的是宋与辽的交兵。自石敬瑭割让燕云十六州后，雁门关外便尽为契丹所有。北宋统一后，收复燕云成为其新的战略目标。雍熙三年(986)北伐失败后，宋辽之间攻守之势逆转，宋转为以防御为主，辽则以攻为守。辽统和二十二年(宋景德元年，1004年)，辽圣宗亲率大军南下，连败宋军，进至澶州。宋真宗接受宰相寇准的建议，率军亲征，极大地鼓舞了士气。宋军射杀辽统帅萧达凛，又于草城川大破辽军。但宋亦无再战的企图，双方遣使议和，签订“澶渊之盟”。此后辽宋百年间再未发生大的战事，辽在山西北部的统治也稳定下来。

宋、辽与西夏交战

辽宋干戈休止之时，崛起于甘肃东部、陕西西北部一带的党项族建立的西夏政权，却与辽、宋双方渐起争斗。山西虽非战区，但也扮演了重要的角色。因临近主战区陕北，山西逐渐成为北宋对夏战争的战略物资、伕役、兵源的重要来源地。宝元、康定年间，宋政府曾数次下诏从河东催粮实边。宝元三年(1040)六月至庆历二年(1042)三月，两年间三次在河东山西招募义勇、弓箭手77079人。鉴于代北一地的重要性，辽兴宗班师回朝后即“改云州为西京”，以此为据点，加强对西夏的战争态势。此后数年间，辽在对西夏的战争中彻底扭转了颓势。

金灭辽

辽后期，居住于按出虎水(今阿什河，在哈尔滨东南)的女真族完颜部逐渐统一了生女真各部，并在抗击辽朝的战争中强大起来。辽天庆五年(宋政和五年，1115年)，都勃极烈(女真部落联盟酋长)完颜阿骨打以会宁府(今黑龙江阿城南)为都，建国称帝，国号为金。在灭亡辽朝后，金开始了南下灭宋的征程。山西军民又谱写了一曲曲可歌可泣的战歌。

金灭北宋

金天会四年(宋宣和七年，1126年)，金兵两路南下进取汴京。其中西路军由粘罕(宗翰)带领从西京(今大同)出发，试图从西线突破太原，与东路军会师汴京。粘罕军直抵太原城下时，驻守平阳的王禀率子王荀紧急应援，与守臣张孝纯一起带领太原军民屡出奇谋，坚守城池。太原久攻不下。靖康元年(1126年)二月，宋廷全盘接受了金军提出的巨额犒军费，以及割让太原、河间、中山三镇给金的退兵条件。北宋朝廷虽有屈辱求和之意，太原军民却没有投降之心。宣旨大臣路允迪到达太原宣读圣旨，王禀立即仗剑而起：“国君应保国爱民，臣民应忠君守义。现并州军民以大宋国为重，宁死而不作金鬼，朝廷竟如此弃子民于不顾，何颜见天下臣民!并州军民坚不受命，以死固守。”城上太原军民也皆手握兵器，振臂高呼与城共存，决不退却!粘罕收取太原无望，以锁城法围困，断绝太原与外界的联系。太原军民在严密封锁中苦苦支撑。金兵前后九次攻城，都被王禀击退。但城中存粮逐渐用尽，太原城终被攻破。张孝纯被俘，王禀率士卒坚持巷战，最后背负着供奉于太庙的宋太宗御容投汾河自尽。太原城破后，粘罕率军乘胜南下，汾州知州张克戬奋力抵抗，城破自杀。平阳、威胜、隆德、泽州等地也相继被金军攻下。随后，粘罕渡过黄河，与斡离不在汴京会师。靖康二年(1127)四月，北宋灭亡。

蒙古灭金

金泰和六年(1206)，杰出的蒙古部族首领铁木真(即成吉思汗)统一了漠北草原，建立大蒙古国，开始反金战争。在蒙古灭金的战争中，山西仍然是主战场之一，遭受的破坏十分严重。金卫绍王大安三年(1211)十月，蒙古军对金朝西京、河东展开攻势。十一月，夺取武州、朔州，到达代州、忻州。次年秋蒙古军克西京大同府。贞祐元年(1213)秋，成吉思汗再次进攻大同，金朝不敌，遂放弃山西大部，迁朔州军民九万人于晋西、晋南地区。蒙古军攻城略地，一路屠城，仅忻州就屠数万人。贞祐二年(1214)，蒙古军合兵中都(今北京)。三月，金求和并迁都汴京，史称“贞祐南渡”。兴定二年(1218)八月，木华黎率领步兵数万，从太和岭入河东，相继攻占代州、太原、汾州、绛州、潞州、隰州、平阳等地。兴定六年(1222)底，山西全境为蒙古军占有。

金元光二年(1223)，木华黎病死于闻喜县下马村。正大元年(1224)，金哀宗即位，收回对宋之兵，全力抗蒙，曾一度收复曲沃、霍州、河中、泽州、潞州等重镇。但此时的金朝已是强弩之末。正大六年(1229)八月，成吉思汗第三子窝阔台继汗位后，蒙金战争进入实质性阶段。天兴三年(1234)，蔡州亦被攻破，金哀宗自杀，金朝灭亡。1271年，成吉思汗之孙忽必烈正式建立元朝。1276年灭南宋，统一了中国。在“大哉乾元”的大一统格局中，结束了自五代开始的300多年的分裂局面，中华民族进入了一个新的融合期。