太岳山，是坐落在太行山西面，吕梁山东面的南北纵向的一块山地，在同蒲铁路和白晋铁路之间的广大区域，驻扎的部队主要是决死第一纵队，与晋西的决死第二纵队、晋东南的决死第三纵队、晋西北的决死第四纵队，都是山西省军阀阎锡山组建的新军，军官全是他派遣的，政工人员名义上是山西省牺牲救国同盟会的人员，但基本上都是地下共产党员。驻扎在太岳区的决死第一纵队的政治委员就是薄一波。
全国性抗战开始后，日军疯狂地进攻山西省。阎锡山在旧军队连连溃败的情况下，接受了薄一波等建设新军的建议，新军得到了迅速发展。
1938年10月武汉失守后，日本军队虽然占领了半个中国，但“速战速决”的战略设想失败，遂改变策略，对国民党采取诱降政策，发出共同防共的号召。蒋介石立即在国民党五届五中全会上确定了反共方针，通过了《防制异党活动办法》。阎锡山本来就是亲日派，主动与日军勾搭，准备与蒋介石联手，在山西省掀起反共高潮。他首要的目标就是瞄准了认为已经被共产党把持了的新军决死队。
1939年冬，蒋介石发动了第一次反共高潮。阎锡山在山西省率先发难，发动了“十二月事变”，首先派部队进攻正在抗击日军的决死二纵队，二纵队苦战突围，转入晋西北八路军第一二○师防区；接着又派部队进攻决死三纵队，使决死三纵队遭到重大损失；此后，对驻扎在太岳区北部的决死一纵队也展开进攻，驻在太岳区南部的国民党部队也积极向北推进予以配合。决死一纵队进行了坚决抵抗。鉴于决死一纵队处于“前门打虎，后门拒狼”的困难处境，八路军总部命陈赓率领第三八六旅及总部特务团，于1940年1月中旬进入太岳区，给予向北推进的国民党部队以有力打击，粉碎了蒋介石觊觎岳北区的幻梦。
第三八六旅刚在太岳区站住脚跟，日军便调集了6000余人，于1940年3月底，在沁县、屯留县地区，向第三八六旅发动了“5路围攻”。他们从长治城出动3000多人，途经屯留县的鲍店镇，兵分三路向北进犯：第一路约2000多人，从鲍店向西北方向的河神庙开进；第二路约400人，从鲍店向北，朝川底村方向开进；第三路约300余人，从鲍店镇向北，沿公路向余吾镇方向开进。同时，北面的日军也有增加，驻沁县日军约2000人，南下至新店镇和古县镇，又兵分两路向南扑来。
陈赓根据敌情分析，日军分5路围攻第三八六旅，是妄图乘他刚到太岳区，群众基础不深，对地形道路等还不熟悉的时机，给予歼灭性打击。
陈赓和旅的领导研究后，拟定了作战部署：第十六团和一部分地方武装，寻找日军的空隙，转到外线，到白晋铁路线上打游击，扰乱敌人后方。旅的主力第七七二团和第十七团等部队，在内线布防，与敌人周旋，寻找战机，歼灭敌人。
陈赓在干部会上动员说：“一定要打好这一仗，否则对我们坚持太岳根据地和继续开展反顽（‘顽固派’是指搞反共摩擦的蒋介石和阎锡山的军队）斗争带来不利影响。”王新亭也说了几点意见，主要是认为这一仗对坚持太岳抗日根据地的意义重大。
反击日军的“5路围攻”，战斗只持续了几天，但进行得非常激烈。首先与日军交火的是第七七二团一营，他们在高坪庄、土家寨一带阻击由鲍店镇经河神庙向张店北进的2000多日军，激战5小时，连续击退敌人的4次攻击。日军攻击失败后，即向一营阵地施放毒气弹，致使一营中毒百余人，负伤20余人。一营即撤至高坪庄以东新的阵地，继续阻击日军的进攻，迫使其一部与一营对峙，一部向南窜入张店镇。
4月1日下午5时，南边的日军向张店镇以北之梧桐柏进攻，第三八六旅十七团一营当即给予迎头痛击，战斗一直到晚上，日军不支逃向张店镇。另一路日军由丈八庙经过黄土坡进至罗村一带，被第十七团击退；此时南边又来了一股日军增援，并施放毒气弹，第十七团有300多人中毒，但仍坚守阵地。
由于张店镇方向的日军主力遭到第三八六旅的尾追侧击，损失严重，率先撤退，其他各路日军也都先后撤退了。整个战斗在4月2日下午结束，共毙伤日军500余人，第三八六旅伤亡101人，阵亡的人，多系中毒而死。
这次作战与以往不同的是，陈赓指挥主力部队，先在内线与敌人周旋，待给他们以阻击和杀伤后，机动转入外线，寻找有利战机；而后又趁日军疲惫和撤逃之际，迅速调转兵力，对敌实施尾追和侧击。这就充分发挥了第三八六旅阵地战和游击战相结合的优势，最大限度地使用了兵力，从而取得了粉碎日军“5路围攻”的胜利。
1940年6月底，国民党顽固派阎锡山的第六十一军三个团和魏立功部600多人，东渡汾河，跨过同蒲铁路，扬言进攻决死一纵队，占领太岳区的洪洞、赵城、安泽等县的部分地区，建立所谓的汾东根据地。与此同时，日军自洪洞、赵城各据点出动700多人向东进攻；白晋铁路线上的日军出兵向西进攻，占领古县等地；王陶镇的日军向南进攻。
陈赓决心指挥第三八六旅及决死一纵队迎敌。电师请示，先打阎锡山的魏立功部，再打第六十一军。后因魏部与日军密切配合作战，尚不能迅速消灭之，遂决定打击第六十一军。7月4日，第六十一军二三百人进攻安泽县晋家山地区，遭到第三八六旅第十七团的伏击，敌溃退，第十七团追到杏树园附近，发现有第六十一军数千人，第十七团猛烈冲杀，敌顿时混乱，杏树园东北高地均被第十七团占领。5日，敌军向第十七团阵地连攻10余次，均被击退，阎军伤亡惨重。6日拂晓，敌又猛攻七八次。陈赓为了骄纵敌人，指挥部队稍向后撤，布置好阵地，只派一个连在晋家山御敌。6日晚，1000余敌人向该连进攻，该连且战且退，诱敌深入。7日，陈赓指挥第三八六旅和决死一纵队主力集结，充分准备后，决定9日向敌总攻。届时，陈赓一声令下，各部勇猛冲杀，4小时即将敌大部消灭。毙伤阎锡山第六十一军800多人，俘虏500多人，有力地保卫了太岳抗日根据地。阎军从此不敢轻举妄动，各路日军听到阎军失败的消息后，在各地游击队的骚扰打击下，也纷纷退守原防。
1940年五、六月，太岳军区成立，陈赓任司令员，王新亭任政治委员，统一领导太岳区的抗日武装，转战同蒲、白晋铁路沿线，为巩固和扩大太岳抗日根据地做出了卓越贡献。
第二年，太岳军区扩大，中央军委任命陈赓为太岳纵队兼太岳军区司令员，薄一波为政治委员。
5月3日，第三八六旅收到了第一二九师发来的《白晋路北段战役计划》。《计划》规定第三八六旅的任务是：旅的一部和师特务团、祁（县）太（谷县）地方游击队，为白晋铁路北段破击队，负责破击祁县的东观、来远镇段，同时掩护中段的破击任务。第三八六旅主力和决死一纵队的4个团，为南线破击队，担负沁县、权店段的破击任务，对南边的夏店和屯留县一线之敌和北面平遥县的敌人，进行游击侦察，阻滞其增援；如果沁县和漳源镇敌人出动，则坚决消灭之。其他部队也都分配了具体任务。
5月5日黄昏，各部队隐蔽进到破击地段。当夜，在200多里长的铁路线上，展开了规模浩大的破击作战。
白晋战役打响后，首先行动的是第三八五旅的第七六九团和第十四团，攻入了铁路线上的南关镇，据守该镇的200多个日本兵，大部被击毙，还解放了一大批被日军抓去强迫修路的工人，缴获了1000多箱炸药和其他物资。
陈赓指挥第三八六旅和决死一纵队，同参战群众一起行动，攻据点，打碉堡，割电线，掀路轨，炸桥梁，烧枕木等。经过一夜的奋战，将日军所控制的40多公里的铁路和公路彻底破坏。
同时，第三八六旅在决死一纵队的密切配合下，攻入铁路线上的牛寺、漳源、固亦镇等敌据点，与敌展开白刃拼搏，并且袭击了日军的一列火车。还乘日军注意力集中在白晋铁路之际，突出奇兵，向同蒲铁路线上的赵城县东北方向的刘家庄实施攻击，歼灭据点内40多名日本兵，缴获了全部枪支、弹药和文件、物资。
刘伯承接到了战报后，称赞说：“他们手疾眼快，抓到敌人弱点，就给以痛击，打得机动灵活。这种战术如果在全军发扬起来，就可以使日军陷于顾此失彼的窘态。”
5月6日，沁县和权店等地日军紧急派出大量兵力，企图阻止抗日军民的破路行动。早有准备的陈赓，立即指挥第三八六旅组织还击，使敌遭到重创。
白晋战役胜利结束，将日军经营了一年多的白晋铁路破坏了100多华里，摧毁大小桥涵50多座，炸毁车站3处及火车3列，焚毁弹药库和汽油库各1座，歼敌350余人。
至此，刘伯承下令主力部队撤出战斗，并将继续破路的任务交给了太岳、太行两区的地方部队和游击队。这场规模空前的交通斗争，一直持续到1940年8月间，使日军在太岳、太行地区推行的“囚笼政策”，第一次遭到了沉重打击。朱德和彭德怀于5月9日专门发来嘉奖电：
白晋战役，赖诸同志指挥有方，全体战士戮力用命，获得了伟大胜利，配合晋南友军，给予日寇以严重打击。捷报传来，无限欣慰，特电嘉勉。望全体指战员同志们，继续努力，发扬我们英勇顽强之光荣传统，彻底粉碎敌寇对我晋东南之扫荡。
