“十六国”混乱时期，晋阳是少数民族觊觎中原所争夺的重镇。史载，西晋并州刺史刘琨死后至北魏统一中国北方的八十余年(316年至396年)，晋阳先后被称为“五胡”(少数民族)的后赵、前燕、前秦、西燕、后燕等小政权国家轮流占据，深受战乱之苦。

后赵

公元316年，西晋并州刺史刘琨在匈奴刘汉政权和羯族石勒夹攻中身亡，晋阳被石勒占领。公元319年11月，石勒自称赵王，建都襄国(今河北邢台)，改并州为太原国，治地晋阳，下辖阳曲、榆次等13县。后赵据晋阳共是42年。

前燕

公元358年，鲜卑族慕容氏所建前燕攻晋阳，后赵太原国守将张平弃城南逃平阳(今山西临汾)。前燕在晋阳设置并州，下辖太原国、上党郡、雁门郡等7个郡国。前燕据晋阳共12年。

前秦

公元370年，氏族符氏所建前秦谴大将杨安攻晋阳，后又调王猛自壶关引兵助战，王猛在晋阳城外暗挖地道，让虎牙将军张蚝率领数百名壮士潜入晋阳城中，里应外合俘虏前燕并州刺史东海王慕容庄。前秦皇帝符坚将并州治所从蒲坂(今山西永济)徙迁晋阳城，辖地除前燕7郡国外，又添辖五原郡(今山西忻州)。前秦据晋阳16年。

西燕

公元385年，符坚被部属羌族姚苌缢死，坚子符丕于晋阳继皇位，改元太安，继续维持前秦帝系。次年，符丕从晋阳出兵准备去平阳讨伐叛臣姚苌，不料被另一支鲜卑族慕容永乘虚而入，占据了晋阳。慕容永于同年在长子(今山西长子)称帝(史称西燕)。西燕据晋阳8年。

后燕与北魏

公元394年，建都于中山(今河北定县)的后燕国又攻占了晋阳，但仅仅时隔二年，晋阳就被北魏拓拔(王圭)夺走了。北魏逐渐统一中国北方，战乱局面开始缓和，人民生活趋向安定。