八路軍第129師在創建晉東南抗日根據地的同時，于1938年1月和3月，先後派出東進縱隊和騎兵團進入冀南，協同中共地方組織，開展抗日遊擊戰争，并建立了冀南軍區和5個軍分區。
4月下旬，遵照中共中央關于開展平原遊擊戰争的指示，第129師副師長徐向前率第769團、第115師第689團和第5支隊，由晉東南出發挺進冀南。
6月上旬，第386旅第771團主力迸到冀南地區。
11日，第385旅汪乃貴支隊也進到冀南地區。
以上各部進入冀南地區後，在積極打擊日僞軍和上匪的同時，廣泛發動群衆，組織武裝，建立政權。
至8月，開辟了以南宮為中心，西至平漢路，東至津浦路、北至滄（縣）石（家莊）公路、南跨漳河的冀南抗日根據地。
1938年11月，日軍按照其先控制平原，後進攻山地的方針，在圍攻冀中地區的同時，以獨立混成第3旅團及第114師團各一部共3700餘人，對冀南抗日根據地進行“掃蕩”，先後占領根據地邊緣的甯晉、永年、故城、恩縣、高唐等重要城鎮與魯西北的聊城。
此時，國民黨軍鹿鐘麟部也積極制造磨擦，包圍八路軍駐守的棗強縣城，提出“撤換縣長、驅逐八路”，宣布取消由共産黨領導的冀南行政公署，另派國民黨的專員、縣長，從而使冀南抗日根據地外于日僞頑夾擊之下，情況十分嚴重。
為鞏固冀南抗日根據地，堅持魯西北的鬥争，支援八路軍第115師向冀魯豫及山東發展，八路軍總部于11月命令第129師主力挺進冀南。
12月21日，師長劉伯承、政治委員鄧小平率第129師師部、第386旅補充團、先遣支隊第3大隊等部，從太行到達冀南（第386旅旅長陳赓率第386旅新編第1團、第344旅第688團已先期到達）。
12月30日，第129師在南官召開軍政幹部會議，傳達中共中央六屆六中全會精神，并根據冀南地區的鬥争形勢，确定了依托廣大鄉村，依靠人民群衆，堅持平原遊擊戰争，鞏固抗日民