并派人前去說服陳赓，要敢于啃硬骨頭。
劉伯承則打電話給彭德懷，建議暫時撤圍，另覓戰機。
彭德懷确實對日軍有些惱怒，他一定要親眼看着部隊拿下關家垴，便對着電話，朝他一向十分尊重的戰友咆哮：“拿不下關家垴，就撤掉你129師的番号！”
按照老百姓的說法，這時血性方剛、性格暴躁的彭老總确實打紅了眼。
他的咆哮，使一向寬懷大度的劉伯承大為震驚，也十分氣惱。
彭德懷說罷，把話筒扔在一邊。
在劉、鄧的指揮所裡，劉伯承也把話筒一扔，生氣地說：“這個彭老總，真拿他沒辦法！”
鄧小平問：“下一步怎麼辦！”
劉伯承幹脆答道：“服從命令！”
鄧小平說：“我認為，該打這一仗！”
劉伯承不解地望着他的搭檔。
鄧小平解釋說：“不打這一仗，政治上損失太大了！打仗嘛，說到底，是打政治仗！有些仗，看起來有便宜可讨，但政治上不利，有便宜也不能打！有些仗，明知道很難打，傷亡大，甚至要吃虧，但政治上需要打，那也非打不可！我看關家垴這一仗就屬于這一類。
”
劉伯承聽着鄧小平的“高論”，火氣漸漸消了。
與此同時，在彭德懷前線指揮所裡，左權也嚴肅地指出彭德懷對劉伯承的态度不好，彭德懷聽了，心服口服，後悔不疊，說：“打完這一仗，我向劉老總賠禮道歉，他如果不原諒我，我就學廉頗去給他負荊請罪。
”
這時，彭德懷接到情報，遼縣、黎城幾千日軍援兵就要到了，如果日軍援兵一到，後果不堪設想。
彭德懷再次命令：必須在下午4時，向日軍發起總攻。
部隊再次組織對日軍的進攻，血戰至30日深夜，八路軍終于頂住有飛機和大炮支援的日軍，完全占領了關家垴高地的山頂，數十名殘餘日軍，退縮到最後幾個窯洞裡。
第3天，為了解救關家垴殘餘日軍，駐遼縣、黎城、武鄉等地日軍三四千人分5路出動馳援，還有飛機十餘架助戰，結果又付出重大代價，才搶出一部分殘兵和傷員。
為了避免決戰，部隊在彭德懷的命令下撤出戰鬥。
戰後彭德懷向劉伯承坦誠道歉，雙方盡釋前嫌。