山東日軍第12軍将1941年度“肅正”地區的重點确定為津浦路以東、膠濟路以南山區的抗日根據地。
9月中旬至10月上旬，日軍首先對沂蒙山區周圍的泰山區和邦城、碼頭地區進行“掃蕩”，并積極策劃于11月初開始對魯中沂蒙山區抗日根據地進行大規模的“掃蕩”，企圖一舉消滅山東地區的中共黨政軍領導機關和八路軍主力，摧毀沂蒙山區抗日根據地。
其參戰兵力，除第12軍主力（第17、第21、第32師團和獨立混成第5、第6、第7、第10旅團）外，還有日華北方面軍配屬的第36師團、獨立混成第3、第4、第9旅團各一部，總兵力5萬餘人。
這是抗日戰争時期，日軍對山東敵後抗日根據地發動的規模最大的一次“掃蕩”。
10月底，日軍向沂蒙山周圍地區集結。
其部署是：以第32師團和獨立混成第10旅團主力集結于新泰、蒙陰、平邑、費縣地區；以第21師團、獨立混成第5、第6旅團主力集結于沂水、莒縣地區；以第17師團主力、第36師團一部集結于臨沂地區，對沂蒙山區構成合圍态勢。
為了鞏固山東抗日根據地，加強山東地區的軍政領尋和統一作戰指揮，中共中央和中央軍委于9月13日指示，山東縱隊、第115師軍政委員會合組為山東軍政委員會，羅榮桓任書記，山東縱隊歸第115師首長指揮。
10月7日，山東軍政委員會根據日軍對魯中“掃蕩”的動向發出緊急指示，指出敵有集中更優勢兵力，以沂蒙區為中心，對山東進行長期“掃蕩”的可能，要求全區黨政軍民緊急動員起來，開展全面的群衆性的遊擊戰争，采取内外線相結合的方針進行反“掃蕩”作戰。
13日，第115師也發出反“掃蕩”作戰準備的指示，要求軍區、軍分區立即劃定地方武裝及遊擊小組的作戰地域；所有黨政軍機關有計劃地分散，加強對反“掃蕩”鬥争的領導，主力部隊靈活地襲擊敵之翼側和後方交通線與據點。
11月2日，山東軍政委員會針對日軍的合圍企圖決定：中共山東分局和第115師直屬隊适時轉移至魯南地區；山東縱隊直屬隊轉向泰山區；山東縱隊第1旅主力轉向敵合圍圈外圍，待機作戰；抗大第1分校轉向泰安、泗水、甯陽地區，魯中軍區及備軍分區和縣區武裝就地領導民兵堅持鬥争；活動于魯中區附近的教導第1旅和山東縱隊第2、第3、第4、第5旅等部，分别在濱海南部和北部、膠濟路沿線及新泰以東和煙台