晉冀豫根據地基本處在同蒲鐵路以東，正太鐵路以南，平漢鐵路以西，黃河以北；其間由太行、太嶽兩山脈綿延穿行，是堅持華北敵後抗戰和向冀魯豫平原發展的重要戰略依托。
早在太原失守前，即1937年10月8日，八路軍第129師主力進抵晉東南平定地區前，在以主力配合正面戰場國民黨軍作戰的同時，就以秦基偉、賴際發率領教導團第5連一部和少數幹部，進至太谷、榆次、壽陽、陽泉、昔陽、和順地區，開展遊擊戰争。
秦賴支隊依靠中共地方組織，動員和組織礦工、紗廠工人、農民、青年學生和國民黨軍散兵遊勇，積極開展對日作戰和建立縣、區、村各級抗日民主政權。
與此同時，第129師騎兵營被派到冀西的元氏、贊皇、内丘地區，開展剿匪、鋤奸、反霸鬥争，迅速結束了“五裡一霸、十裡一王”的混亂局面，成立了農救會、婦救會等各種抗日群衆團體，初步打開了冀西地區的抗戰局面。
太原失守後，即11月10日和13日，八路軍第129師先後在晉東南昔陽縣武家莊、和順縣石拐鎮兩次召開幹部會議。
會上，傳達了毛澤東和八路軍總部關于依托太行、太嶽山區創建晉冀豫邊抗日根據地的指示和決定；劉伯承作了遊擊戰術和進一步開展敵後遊擊戰争的動員報告：總結了全師抗戰以來的工作，具體部署了開展敵後遊擊戰争的行動和任務。
11月15日，八路軍第129師師部由和順縣石拐鎮移駐遼縣（今左權縣）城後，在中共晉冀豫省委的支持下，有步驟、有計劃地分散大部兵力，派出多支部隊，到晉東南、冀西、冀南、豫北等地，開展獨立自主的遊擊戰争。
師政治部副主任宋任窮、組織部長王新亭、宣傳部長劉志堅，分别率工作團和一部兵力，到晉東南