第二階段：掃除水冶鎮南北諸據點。
為迅速發展勝利，太行軍區決定以第1支隊（第2支隊第32團轉屬第1支隊指揮，第1支隊第1團暫留曲溝集及其以東地區，掩護地方政府開展工作，并阻擊安陽可能出援或反撲之敵）向南掃除九龍山，東善應等據點之敵；第2支隊（欠第32團）進攻石官、東魯仙各據點之敵；第3支隊向衆樂之敵進攻。
7月1日，各支隊展開第二階段作戰，經過2晝夜激戰，将安陽城以西、觀台鎮以南、鶴壁集以北地區内的據點、碉堡全部摧毀，全殲僞剿共第1路軍之第2、第3旅殘部及僞林縣遊擊總隊一部。
第三階段：乘勝擴大戰果，破擊觀（台）豐（樂）鐵路，向湯陰地區發展進攻。
日僞軍在八路軍的打擊下，收縮兵力，集中防守安陽、觀台等重要據點。
太行軍區于7月4日以第1支隊繼續向南發展進攻，于5日攻以鶴壁集，并順勢攻克曹家、鶴塔等據點，殲滅僞第6方面軍暫編第9師第26團，繼之又連克北唐仲、黑塔、大湖、鹿樓集等據點，并争取了僞軍2個中隊反正。
第2、第3支隊主力，率領民兵、自衛隊近萬人，對觀豐鐵路段展開大破擊作戰，攻克東、西保障、王安等據點，并掃除了鐵路沿線碉堡。
守敵紛紛逃回觀台、豐樂車站。
經過連續3天的攻擊，将魚羊鎮至觀台附近的鐵路全部拆毀。
7月5日，日軍由邯鄲調援900餘人及少數坦克至安陽。
7日，日僞軍600餘人由豐樂車站出援，被第3支隊阻擊于豐樂車站以西地區。
鑒于攻擊任務已經完成，7月10時，八路軍停止攻擊，以第5軍分區主力一部及安陽地方武裝堅持新收複地區的遊擊活動，各支隊集結于林縣地區休整待機。
至此，安陽戰役遂告結束。
安陽戰役共斃傷日僞軍800餘人，俘虜及反正、投誠的日僞軍2500餘人，擊潰僞軍900餘人，攻克據點30餘處，擴大解放區1500餘平方公裡，解放人口35萬，并進一步逼近平漢路及安陽日僞軍據點，使太行山區與冀魯豫平原在豫北地區的聯系更加緊密。
通過戰役，鍛煉和提高了八路軍運動戰、攻堅戰和連續作戰的能力，為以後的大反攻作戰提供了有益的經驗。