大軍攻陳友諒，攻下銅陵，攻克九江，占領蕲州、黃州。
跟從徐達攻打叛将祝宗、康泰，收複南昌。
從援安豐，打敗了張士誠的部隊，回攻廬州。
陳友諒派兵大舉圍攻南昌，跟從太祖迎戰。
在康郎山和敵人遭遇，因船小不能仰攻，幾次力戰都未成功。
俞通海乘風縱火焚燒了敵船二十餘艘，敵人小敗。
太祖的船擱淺，陳友諒的骁将張定邊進犯太祖坐船，常遇春射中了張定邊，俞通海飛舸前來增援，舟驟進，水位增高，太祖的船得以脫身，但俞通海的船被敵巨艦所壓，士兵都用頭抵着艦，頭盔全部破裂了，但免于一死。
第二天再戰，偕同廖永忠等用七條船裝置火藥，焚燒敵艦數百艘。
過了二天，又派六艘船深入。
敵人連接大艦奮力抵抗。
太祖登舵樓觀望，很久還沒看到什麼，心想派入的六船已經失敗。
突然，六艘船繞敵艦出現了，像遊龍一樣飄然。
軍士歡呼，勇氣百倍，越戰越勇。
陳友諒大敗。
部隊駐于左蠡，俞通海建議“：湖比較淺，船難以回旋。
還不如進入長江，扼住敵人的上流。
敵船進入，就可順利擒拿了。
”于是移師湖口，水陸結栅。
陳友諒不敢出戰，困守湖中達一個月，彈盡糧絕，派兵突圍，最後戰敗而死。
在這次戰役中，俞通海的功勞最大。
班師回朝，賞賜良田金帛。
第二年從大軍平武昌。
任命為中書省平章政事。
統兵進攻劉家港，進而逼近通州，打敗張士誠的部隊，活捉了戰将朱瓊、陳勝。
晉升為江淮行中書省事，鎮守廬州。
跟從徐達平定安豐。
又從克湖州，進攻太倉，秋毫無犯，老百姓十分高興。
圍攻平江，激戰滅渡橋，直搗桃花塢，身中流箭，傷勢很重，回到金陵。
太祖親臨其舍，問道：“平章知道我來問候你的病情嗎？”俞通海不能回答。
太祖揮淚而出。
次日去世，年僅三十八歲。
太祖哭得十分傷心，從官衛士都感動得落淚。
追封為豫國公，侑享太廟，肖像歸入功臣廟。
洪武三年(1370)，改封為虢國公，谥号忠烈。
俞通海的父親俞廷玉曾任樞密院事，在通海之前去世，追封為河間郡公。
俞通海沒有兒子，他的弟弟俞通源繼承官位。