晉西南地區位于黃河以東、同蒲路以西、汾離公路以南，呂梁山脈縱貫南北，是陝甘甯邊區的東部屏障和聯系晉冀豫邊抗日根據地的紐帶。
早在太原失陷前，毛澤東就電示八路軍總部，于适當時機派部隊進至呂梁山脈活動，太原失守的當天，毛澤東又進一步指出：“呂梁山脈是八路軍的主要根據地；但其工作尚未開始，因此，不但徐旅（徐海東，第115師第344旅）須立即迅速轉移，林率陳旅（陳光，第115師第343旅）亦不應在東邊戀戰，亦以立即開始轉移為宜。
”據此，八路軍總部于1937年11月9日令第115師師部率第343旅由正太路南進，适時轉向呂梁山脈，創建晉西南抗日根據地。
第344旅則随八路軍總部繼續在正太路沿線活動。
第115師主力于12月南下進抵洪洞、趙城地區後，就地進行休整補充。
1938年2月中旬，日華北方面軍第1軍向晉西南地區發動大規模進攻，國民黨軍紛紛退向晉南和黃河西岸，呂梁山部分地區變為敵後。
第115師師部率第343旅由洪洞，趙城地區進至孝義地區打擊日軍。
2月19日，第343旅在孝義以西之兌九峪、辛莊等地，側擊、襲擊由孝義西進之日軍，并于20日收複大麥郊。
21日，該旅在川口附近與由雙池鎮西犯之日軍1600餘人進行激戰，斃傷日軍200餘人，阻止了該路日軍的西進。
第115師主力在積極打擊日軍的同時，抽調幹部組成工作隊，深入石樓、永和等縣，發動群衆，組織抗日遊擊隊，開創抗日根據地。
2月下旬，日軍在占領隰縣、臨汾後，繼續向西、向南推進，直接威脅陝甘甯邊區的安全。
第115師師長林彪（3月2日，林彪在限縣以北的千家莊為國民黨軍哨兵誤傷，回延安治療，由第343旅旅長陳光代理師長）、政治部主任羅榮桓根據毛澤東關于鞏固戰略樞紐和尋機殲敵的指示，一面組織工作隊深入各地發動群衆建立抗日根據地，一面率主力進至隰縣、午城地區待機殲敵。
3月14日12時許，第115師先遣分隊在午城鎮以東地區與由蒲縣西進之日軍第20師團先頭部隊遭遇，先遣分隊先敵展開，搶占有利地形，經2小時激戰，斃傷日軍100餘人後，主動轉移至午城西北高地，繼