從1941年起，日軍在華北開始野蠻推行“治安強化運動”。
他們将華北各地劃分為“治安區”（即日僞占區）、“準治安區”（即抗日遊擊區）和“未治安區”（即抗日根據地），妄圖實行逐步變“準治安區”為“治安區”，“未治安區”為“準治安區”的目标。
三四月間，山東日軍推行第一次“治安強化運動”，首先在日僞占區内強化僞組織，二次“治安強化運動”，對魯南、魯中、清河等抗日根據地進行大“掃蕩”。
秋天，日僞軍将“掃蕩”的重點轉向沂蒙山區。
在這嚴酷的鬥争環境中，為了解決統一山東軍政領導和作戰指揮問題，8月19日，中共中央書記處和中央軍委決定：“（甲）分局、第115師師部及山縱指揮部靠攏，以便經常開會，以分局會議為統一山東黨政軍民的領導機關，山東分局暫時由朱瑞、羅榮桓、黎玉、陳光同志組成，朱瑞為書記。
（乙）山東縱隊歸第115師首長指揮，配合作戰。
（丙）将山縱及第115師兩軍政委員會合組為山東軍政委員會。
決定羅榮桓、黎玉、陳光、肖華、陳士榘、羅舜初、江華7人為委員，羅榮桓為書記。
”山東分局随即按照中央這一決定，确定分局委員的分工：朱瑞主持黨的組織工作，羅榮桓主持軍事工作，黎玉主持政府工作，陳光主持财委會工作。
10月2日，羅榮桓率師部到達臨沂青駝寺，主持召開了山東軍政委員會的第一次會議，研究了第115師和山東縱隊建立統一指揮的問題，并對秋季反“掃蕩”進行了部署。
會後，中共山東分局、山東軍政委員會、第115師和山東縱隊分别發出粉碎日僞軍“掃蕩”的指示。
第115師的指示指出：在敵人大“掃蕩”時，要廣泛開展群衆性的遊擊戰，小部隊要樹立獨立自主作戰的精神，不要在遭受敵人第一次合擊後陷于被動，應當适時跳出合擊圈。
在情況查明以前，先以敵為軸心轉動，不宜跳得過遠，免遭新的合擊。
要切實掩護群衆，防止敵人殺害群衆和抓走壯丁。
連排幹部要熟悉地形，