并州四塞之国，成为石赵帝国前将领和饱经河北战乱的各族民众们理想的避难之地，盘踞在此的最大势力是石赵前并州刺史张平。史书称其：“跨有新兴（山西省忻州市）、雁门（山西省代县）、西河（山西省离石市）、太原（山西省太原市）、上党（山西省长治市）、上郡（陕西省榆林市东南）之地，垒壁三百余，胡晋十余万户，遂拜征、镇，为鼎峙之势。”

张平在永和七年（351年）曾投降前秦，被进封为大将军、冀州牧，第二年（352年），他为了自保，又投降了前燕，被封为并州刺史，到了永和十二年（356年）苻生命令其率部消灭姚襄，但其却与姚襄和解，又促使了他再次投向了东晋，接受了东晋并州刺史的职务。

另外，冉闵的常山太守苏亥也在永和八年逃往新兴（山西省忻州市），投靠张平；上党人冯鸯于永和十一年（355年）驱逐了前燕太守段刚，占据安民城（山西省襄垣县北），自称太守，投降东晋，不久，冯鸯担心前燕的进攻，又依附于张平，张平多次向慕容儁请求赦免冯鸯，其后，冯鸯又投降了前燕，被慕容儁封为京兆太守，不久，又背叛了燕国，他与吕护一样都暗通东晋。

此外，并州之外的石赵降将李历驻守濮（山东省鄄城县），高昌驻守在东燕（河南省延津县东北），也都是开始的时候投降了前燕，继而又归顺了东晋，也接受了前秦的爵位，不过是为了割据一方。

回过头来看张平的统治区，虽然张平跨据六郡，居于山西形胜之地，但是，却没有全据山西天险：早在晋怀帝永嘉四年（公元310年），并州的陉北楼烦（山西省宁武县）、马邑（山西省朔州市）、阴馆（山西省朔州市东南）、繁畤（山西省浑源县西南）、崞县（山西省浑源县）五县之地已经割让给了拓跋猗卢；而从前燕慕容儁将匈奴单于贺赖头部众安置在代郡的平舒城（山西省灵丘县）这一点上看，如今的前燕势力也已经推进到了陉北附近地区，张平北部只能依托雁门关，屏护北方；而东南，虽说冯鸯以上党投靠张平，但他退居安民城（山西省襄垣县北），由此看来，冯鸯并没有全部占领上党地区，尤其是没有占据冀州通向并州的咽喉——壶关；再说西南，河东地区并不在张平的控制之中，特别是河东地区联系关中的跳板——蒲坂，还牢牢地掌握在前秦的手中，更不用说河东往中原而去的轵关以及上党往河内的天井关，更是不在张平之手。那么，在这种情况下，张平虽处形胜之地，却无形胜之势，外来势力很容易地跨过并州、司州的要隘，进入山西。

永和十二年（公元356年），慕容儁就曾经派遣将军慕舆长卿等率众七千取道轵关，进攻裴氏堡（大约在山西省垣曲县境内）前秦的幽州刺史张哲，同时，这也是过去苻菁、姚襄能够顺利进入河东，并踏上关中土地的主要原因。

处于前秦和前燕夹缝中的张平，为了扭转不利态势，采取了联合一方打击另外一方的策略，而他要解除来自西方的威胁，就必须有效地控制河东地区。

苻生连续两年的残暴统治让前秦政权岌岌可危，到了晋穆帝升平元年（357年），前秦最高层又发生了苻坚诛杀苻生的政变。在这种情况下，张平决定率先进攻混乱不堪的前秦，于是，他在苻坚政变一个月后，即投降了东晋。紧接着，十月，张平即率军南下，进攻前秦统治的河东地区。前秦天王苻坚加封苻生的弟弟晋王苻柳为都督并州、冀州诸军事，加并州牧，率军镇守蒲坂，抵御张平的进攻。

升平二年（公元358年）二月，前秦王苻坚亲自率领前秦军队，前去讨伐张平。他命令建节将军邓羌为前锋都护，率领五千精锐骑兵先期抵达汾水之上，张平则命令养子张蚝率军抵抗。据《十六国春秋辑补》记载，张蚝本姓弓，上党泫氏（今山西高平）人，此人臂力过人，能将牛倒拉着往后走，城墙不论高低，均能翻越。因此，受到张平爱赏，而被张平收为养子。后来，张蚝与张平的爱妾私通，张平知道以后，狠狠地责备了张蚝，羞惭之下，张蚝自宫向张平谢罪，从此，成为阉人。虽然如此，却丝毫没有影响张蚝的英勇，是张平手下得力的猛将，而邓羌也十分骁勇，两员猛将对垒十多天，双方不分胜负，谁也无法吃掉对方。到了三月，苻坚的大军也渡过黄河，推进到铜壁（胡三省注云：河、汾之间有铜川，其民遇乱，筑铜壁以自守，因曰铜壁），张平率领自己的全部军队前往迎敌，张蚝单枪匹马，高呼着冲入秦军阵营，横穿秦军阵营四五次，如入无人之境。看到这员猛将，苻坚十分喜爱，他下令不得伤害此人，务必要将其生擒。于是，前秦众将纷纷上前，将张蚝团团围住，张蚝一人独斗前秦数员大将，毫无惧色，然而，毕竟是众寡不敌，吕婆楼之子、鹰扬将军吕光飞马上前，瞅准一个破绽，一枪将张蚝刺于马下，猛将邓羌眼疾手快，跳下战马，将张蚝扑倒在地，这样，众人这才将其活捉，献至苻坚马前，苻坚大喜。

看到猛将张蚝被擒，张平将士无不胆寒，再无战心，一时之间纷纷逃命。张平走投无路，十分害怕，请求投降，苻坚赦免了张平反叛之罪，任命其为右将军，然后班师，将张平的所部三千多户民众迁往长安。

回到长安之后，苻坚拜张蚝为虎贲中郎将，加授广武将军，令其主管宫廷禁卫。苻坚对张蚝非常喜爱，经常将其带在身边，犹如曹操的典韦、许褚一般，后张蚝遂成为威震一时的名将，为前秦建立了很多大功，当时秦国人都将邓羌和张蚝称为是可以抵挡万人的猛将，即“万人敌”。

升平元年（公元357年）十一月，慕容儁作出了定都邺城的决定，并于十一月十七日从蓟城出发南下邺城，十二月十九日，慕容儁正式入住邺城皇宫。慕容儁将国都定于邺城之后，摆在他面前亟需解决的问题就是：解决并州问题，解除邺城西面的威胁。

升平二年（公元358年）二月，为了保护邺城的侧翼安全，与苻坚从河东地区进攻张平同时，前燕军队也从东面进攻上党的冯鸯。负责进攻冯鸯的是前燕司徒、上庸王慕容评（燕主慕容儁的小叔），此人工于心计，但短于用兵，因此，一直迟迟无法攻克冯鸯固守的安民城（山西省襄垣县北）。三月二十日，慕容儁再派领军将军慕舆根率军增援慕容评，合力进攻冯鸯。慕舆根堪称战功赫赫的名将，他在攻灭宇文部、扶余国等战斗中屡立大功。慕舆根到来之后，计划立即组织对冯鸯的打击，而慕容评却说：“冯鸯的堡垒坚固，易守难攻，不如等一等再进攻。”慕舆根反驳道：“大人抵达冯鸯城下，已经一个多月了，却从未与之交锋。敌人以为我方的力量仅此而已，就固守起来，寄希望于万一。如今，我的兵马刚刚到来，我军士气大振，敌人却更加害怕，个个怀有离散的打算，趁着他们犹豫不决之时，迅速展开攻势，一定能够胜利！”于是，前燕军队开始发起了猛烈的总攻。果然，城内冯鸯部众互相猜疑，冯鸯眼看城池即将陷落，就带领少数亲随仓皇弃城南逃，投奔野王（河南省沁阳县）的吕护，城内剩余部众全部投降。此战之后，前燕帝国顺利地拿下了并州东南门户——上党地区。

升平二年（公元358年）九月，苻坚返回长安，以太尉苻侯暂任尚书令。

这时，前秦发生大旱。苻坚主动减少膳食，取消歌乐，命令后妃以下的人全都换掉绢丝服装。又开发山林湖泽，国家与百姓共同享用，停止战争，休养生息，虽遇大旱，但并没有引起灾荒。

趁着前秦忙着应对大旱，升平二年（358年）九月，也就是苻坚返回长安的同月，慕容儁命令司徒慕容评率军北上讨伐张平，命令司空阳鹜率军南下进攻驻守在东燕（河南省延津县东北）的高昌，命令乐安王慕容藏率军攻击邺城东南濮（山东省鄄城县）地的李历。这三路讨伐军均战绩辉煌：虽然阳鹜进攻黎阳（河南省浚县）的高昌别部，没有得手，但是，不久之后，高昌迫于前燕压力，率众南逃至邵陵（河南省郾城县东三十五里）；李历在慕容藏的打击下逃奔荥阳，部众全部投降；在慕容评的打击下，并州的一百多座堡垒都投降了前燕，慕容儁任命尚书右仆射悦绾为安西将军、并州刺史、兼护匈奴中郎将，镇抚并州，张平任命的征西将军诸葛骧、镇北将军苏象、宁东将军乔庶、镇南将军石贤等人又率领一百三十八座堡垒投降了前燕，慕容儁大喜，将这些人全部官复原职，不久，张平就率众逃往太原西南的平阳（山西省临汾市），并向前燕称臣。