八路軍的勝利發展，給駐在魯南地區的日僞軍造成嚴重威脅，特别是白彥被八路軍115師攻占後，日僞軍更是惱羞成怒。
4月中旬，敵人集中了第12集團軍第32、第21師和獨立混成第6、第10旅各一部及部分僞軍近8000人的兵力，分别從鄒縣、滕縣、棗莊、峄縣、臨沂、費縣等據點，分十幾路出動，向抱犢崮山區根據地，進行大規模的春季“掃蕩”，企圖乘青紗帳未起來的時候消滅115師。
日軍在這次“掃蕩”中更加陰險狡猾。
進攻部隊采取寬大正面和梯次配備，并于夜間行動，先以僞裝八路軍遊擊隊的小部隊為先導，主力則避開大路，隐蔽前進。
各路敵人互相策應，步步為營，首先在邊沿區“掃蕩”了一個星期，從21日起，向大爐中心區形成了大的合圍。
這時，羅榮桓正在主持召開全師政治工作會議。
敵人“掃蕩”的消息傳來，有的同志建議會議停止進行，羅榮桓冷靜地分析了敵情，決定繼續把會議開完。
敵人采取的是分進合擊的戰術，大有鲸吞我根據地之勢。
羅榮桓與陳光确定的對策是，盡量使集中之敵分散，以粉碎敵人的合擊。
除師直機關率特務團2個營，配合魯南地方武裝堅持内線與敵周旋外，其他主力部隊均置于外線，從背後拖敵人的腿。
羅榮桓把潘振武叫來，要他帶着峄縣縣大隊，打着東進支隊的旗号，大張旗鼓地到郯城碼頭一帶去，沿途都用東進支隊司令部、政治部的名義号房子，把敵人的注意力吸引過去。
潘振武走後，政工會議在羅榮桓主持下繼續進行。
4月21日，他在吳家溝作了政工會議的總結報告。
面對8000多敵人的“掃蕩”，羅榮桓異常沉着鎮定。
留在山區内的機關多，戰鬥部隊少，為了縮小目标，便于機動，師司令部、政治部和魯南三地委都分散活動。
羅榮桓率領師政治部機關，隻有1個特務連掩護，單獨與敵人周旋。
有一天，峄縣支隊王六生帶的一個連隊，和康矛召帶的另一個連隊與大隊失去聯絡，在路上相遇。
他們聽說羅政委身邊隻有1個連隊，就在附近活動，馬上派人送去一封信，說明有2個戰鬥連隊就在這裡，願意不避任何艱險，保衛首長和領導機關。
在四面敵情異常嚴重，而又缺乏警衛部隊的時候，他們以為羅政委接到信後一定很高興地把他們留下。
但是，羅榮桓考慮的是戰略全局，而不是個人安