1938年2月，日軍從太原沿同蒲路兩側大舉南下，正面戰場呈瓦解之勢，閻錫山、衛立煌對在同蒲路東正太路南的國土和各部隊實際已無法顧及，遂将分散在這一地區的中央軍、地方軍和八路軍129師、115師344旅，決死隊的1、3縱隊，劃為二戰區的東路軍，請朱德、彭德懷分任總、副指揮。
3月1日，彭德懷從高平前線趕回駐安澤縣南山交鎮的八路軍總部，帶回了國民黨友軍的情況：徐州吃緊，潼關告急，蔣介石恐華北日軍南下，增加中原戰場的壓力，嚴令華北各軍一兵一卒不許過黃河，全部留在山西打遊擊。
但國民黨将領從來沒有打過無後方的仗，對運動戰、遊擊戰更感神秘莫測，十分惶恐，希望得到八路軍的幫助。
一周前，毛澤東、任弼時曾緻電朱德、彭德懷，要八路軍力勸近百萬友軍“萬萬不可過河”；要八路軍和友軍協同堅持晉南晉西戰局，轉入外線，反過來攻敵之背。
為鼓勵和幫助友軍堅持山西，3月24日至28日，朱德、彭德懷在沁縣以南的小東嶺召開東路軍将領會議。
國民黨将領李家钰（第47軍軍長）、李默庵（第14軍軍長）、曾萬鐘（第3軍軍長）、朱懷冰（第94師師長）、武士敏（第169師師長）、趙壽山（第17師師長）、八路軍将領劉伯承、張浩、徐海東、李達、王新亭和決死隊薄一波等38人從各地趕來開會。
閻錫山和衛立煌的代表、蔣介石的聯絡參謀也趕到會所。
國共的第二次合作處在黃金時代，過去在戰場交手的人，今日濟濟一堂，共商禦敵之計。
24日這天，會議在小東嶺村關帝廟内舉行。
朱德在開幕詞中詳細分析抗戰形勢，号召東路軍将領齊心協力，建立敵後抗日根據地，開展遊擊戰争，堅持華北。
彭德懷在會上作了關于東路軍作戰綱領的報告。
在詳細分析了敵我雙方的形勢後，彭德懷要大家接受南京、太原淪陷的慘痛教訓，采用新的作戰原則：實行戰略上的防禦戰，戰術上的進攻戰；戰略上的持久戰與消耗戰，戰術上的速決戰與殲滅戰；運用運動戰以消滅敵人有生力量，發展遊擊戰以造成我基幹軍隊在運動中大量殲敵的機會。
彭德懷在