太行山南部以陵川、林縣為中心的地區，曾是國民黨軍第24集團軍的防區。
該集團軍總司令龐炳勳，下轄第27軍（軍長劉進，駐陵川地區）、第40軍（軍長馬法五，駐林縣地區）、新編第5軍（軍長孫殿英，駐臨淇地區），共2萬餘人。
1943年4月20日，日華北方面軍以第1、第12軍各一部大舉進攻太南第24集團軍。
4月24日，新編第5軍軍長孫殿英首先率部投敵。
5月上旬，龐炳勳被俘投敵。
在此期間，第一戰區豫北總指揮兼專員杜淑也率部投敵。
日軍将追随龐炳勳、孫殿英、杜淑投降的部隊合編為僞暫編第24集團軍，下轄暫編第5、第6、第7軍和獨立第1、第2旅及太行保安隊，以龐炳勳、孫殿英為正、副總司令，分布于新鄉至安陰間平漢路上各要點及兩側地區，配合日軍進攻抗日根據地。
第24集團軍未投降的部隊（第27、第40軍）在日軍的進攻下，于8月4日前全部退出太南。
7月10日，僞暫編第24集團軍之暫編第5、第7軍及太行保安隊，由僞暫編第7軍軍長兼前敵總指揮劉月亭指揮，在日軍第35師團3個大隊的配合下，向平漢路西太南地區擴張，侵占八路軍太行區林縣縣城及其周圍地區。
與此同時，僞暫編第6軍及獨立第1、第2旅共8000餘人，在僞暫編第6軍軍長杜淑指揮下，向平漢路東地區擴展，侵占八路軍冀魯豫抗日根據地衛河以南滑縣、長垣間之焦虎集、瓦崗集地區，并企圖繼續東犯，以便與駐東明、濮陽地區的僞第2方面軍孫良誠部溝通聯系。
為殲滅進犯之敵，保衛和擴大抗日根據地，八路軍第129師計劃實施林南戰役。
這一計劃得到了八路軍總部的支持，八路軍總部并指示冀魯豫軍區進行配合。
于是，冀魯豫軍區同時實施衛南戰役。
冀魯豫軍區鑒于路東之僞軍杜淑部孤軍深入，兵力分散，并與龐炳勳、孫殿英之間存在尖銳的派系矛盾，遂決心以第4軍分區之第16、第21團、人民自衛軍新四路、衛河支隊和騎兵團一部，在部分地方武裝的配合下，組織衛南戰役，各個消滅進犯之僞軍。
7月30日，杜淑率主力2000餘人，首先向人民自衛軍新四路