山東是聯結華中和華北的紐帶，可以南下華中，北迫平津，且與晉察冀和太行抗日根據地成鼎足之勢。
鞏固和發展山東抗日根據地，對堅持敵後抗戰具有重大的戰略意義。
從1938年底開始，日軍增強駐山東的兵力，組建第12軍，下轄第5、第21、第114師團、獨立混成第5旅團、騎兵集團等部，并開始由城市和交通要道向鄉村伸展。
為适應對敵鬥争的新形勢、統一山東抗日武裝的領導和增強山東抗日武裝的力量，根據中共中央軍委決定，1938年12月成立山東縱隊，下轄6個支隊。
與此同時，八路軍總部命令第115師主力一部開赴山東。
第115師立即派第343旅第685團由晉西出發，12月下旬，到達（微山）湖西地區，與當地抗日武裝合編為蘇魯豫支隊。
1939年3月1日，第115師代師長陳光、政治委員羅榮桓率師部及第343旅（欠第685團），到達魯西郓城地區。
為迅速打開運（河）西地區的抗戰局面，3月4日，第115師以第686團對環城西北之樊壩僞軍據點發起進攻，全殲守軍1個團800餘人。
樊壩戰鬥後，第115師除留第686團第3營堅持運（河）西地區外，繼續東進泰（山）西地區。
10日，到達東平東北部的夏謝村，與中共泰西地委和山東縱隊第6支隊會合，随即召開山東津浦路西地區高級幹部會議，羅榮桓傳達中共六屆六中全會精神，提出創造泰西抗日根據地的任務。
會後，八路軍部隊拔除了漢河西岸的僞軍據點，加緊擴大武裝和建設政權。
八路軍第115帥主力進入魯西後，使泰西抗日根據地迅速擴大，直接威脅日軍的重要交通線律浦路，5月初，日軍從濟南、泰安、兖州、東阿、汶上等地調集5000餘人，附汽車、坦克100餘輛、火炮100餘門，以及僞軍3000餘人，分9路“掃蕩”泰西地區，企圖尋找第115師主力決戰。
5月2日至8日，日軍首先對大汶河南岸