華北各抗日根據地開展的遊擊戰争，使日本将華北建為其戰争後方基地，以推行其以華制華、以戰養戰的戰略企圖無法實現。
日華北方面軍司令官多田駿，為了集中兵力“對共産軍根據地進行毀滅戰”，決心“對晉甫地區的中央軍發動一次大兵力的作戰，一舉掃清黃河以北的中央軍勢力”，以便轉用該地區的日軍于專門對付第八路軍，“迅速恢複華北的治安”；同時打擊重慶國民政府的抗戰意志。
因而在1941年春決定發動中原會戰（當時中國軍隊稱之為晉南會戰，即中條山會戰）。
中條山會戰之前，日軍第11軍為抽出其第33師團轉用于晉南，先發動上高會戰。
以2個師團又1個旅團的兵力，于1941年3月15日由安義、萬壽宮、原田街，分3路向上高進攻。
其第33師團在19日突破第9戰區第70軍上富第三線主陣地後，即抽調轉用于中條山方面，其第34師團會合獨立混成第20旅，突破第74軍官橋第三線主陣地後，繼續向上高進攻。
第19集團軍以第74軍固守上高、第49軍和第70軍分向日軍左、右側包圍進擊。
激戰至25日，日軍退走，在守軍追擊、堵擊下，損失甚重。
中國軍隊獲炮10門、步機槍1000餘支，4月2日，又恢複原态勢。
日中國派遣軍為增加進攻的力量，除由武漢方面抽調第33師團至晉南外，又從蘇州地區抽調第17師團至徐州接防，原在徐州的第21師團轉用于晉南。
參加進攻中條山作戰的日軍，由第1軍司令官篠塚義男指揮，所屬部隊有：第21師團（田中久一）、第35師團（原田熊吉）、第33師團（櫻井省三）、第36師團（井關仞）、第37師團（安達二十三）、第41師團（清水規矩）、獨立混成第9旅團（池上賢吉）、獨立混成第16旅團（若松平治）、騎兵第4旅團（佐久間為人）等共6個師團、3個旅團；總兵力約10萬人。
此外，為增加此次作戰的空中力量，日本大本營于4月19日調關東軍第7飛行團之輕轟作第32戰隊和第2飛行團之偵察第83戰隊配屬第3飛行集團。
第3飛行集團轄第1、第3飛行團，有輕轟炸第90戰隊、獨立戰鬥第10中隊、獨立偵察第83中隊和偵察直協第44戰隊，共有飛機約200架。
日軍第1軍根據1941年2月26日華北方面軍治安肅正作戰會議傳達的本年度第1号作戰計劃，制訂了進攻中條山的作