俞通海，字碧泉，他的祖先是濠州人。父亲俞廷玉迁徙到巢，有儿子三人，俞通海、俞通源、俞渊。元末，盗贼起事于汝、颍。廷玉父子与赵普胜、廖永安等人在巢湖结寨，拥有水师舟船千艘，多次使庐州左君弼深感窘迫，后派俞通海绕道前往联系归附太祖事宜。太祖当时驻军和阳，正准备渡江，但没有舟楫。俞通海到来，太祖大喜说：“天助我啊。”于是亲自前去抚慰其军，只有赵普胜叛去。元兵用楼船扼守马场河等口，濒临巢湖只有一港可通，但已干涸很久了。正遇上天下大雨，水深丈余，于是引舟出江，到达和阳。
俞通海为人沉毅，治军严恩相济，士兵乐于效命。巢湖诸将都擅长水战，其中又以俞通海为最。从太祖军破海牙诸水寨，被授予万户。从太祖渡江，攻克采石，占领太平，并迅速攻克诸属县。海牙再次派战舰截击采石，陈兆先联合淮兵二十万屯居方山，互为掎角。俞通海和廖永安等人出兵迎击敌人，大败敌军，海牙逃跑。进而打败陈兆先，攻占集庆路。跟从汤和攻占镇江，晋升为秦淮翼元帅。偕同诸将攻取丹阳、金坛、常州，晋升为行枢密院判官。从大军克宁国，下水阳，派水师进攻太湖，在马迹山降服了张士诚的守将，在胥口停船上岸。吕珍的部队突然到来，诸将准备撤退。俞通海说：“不可，敌众我寡，撤退则真情暴露，不如和敌人交战。”于是身先士卒，敌箭如雨点般地射来，俞通海右眼中箭，不能继续战斗，命帐下军士穿上他的战甲督战。敌人误认为就是俞通海，不敢逼进，慢慢地撤退了。于是俞通海瞎了一只眼睛。不久，偕同廖永安等人攻克石牌并戍守在此，夺取马驮沙而归。赵普胜已经叛归了陈友谅，他攻陷池州，派大将镇守，自己则据守枞阳水寨。太祖正在征讨浙东，但以枞阳为忧患。俞通海前往进攻，大破敌军。赵普胜从陆路逃走，缴获了他全部的舟船，于是收复池州。晋升为佥枢密院事。陈友谅进犯龙湾，俞通海偕同诸将赶走了敌人，并在慈湖焚烧敌船，活捉七帅，追敌北至采石。俞通海功劳最大，晋升为枢密院同知。
从大军攻陈友谅，攻下铜陵，攻克九江，占领蕲州、黄州。跟从徐达攻打叛将祝宗、康泰，收复南昌。从援安丰，打败了张士诚的部队，回攻庐州。陈友谅派兵大举围攻南昌，跟从太祖迎战。在康郎山和敌人遭遇，因船小不能仰攻，几次力战都未成功。俞通海乘风纵火焚烧了敌船二十余艘，敌人小败。太祖的船搁浅，陈友谅的骁将张定边进犯太祖坐船，常遇春射中了张定边，俞通海飞舸前来增援，舟骤进，水位增高，太祖的船得以脱身，但俞通海的船被敌巨舰所压，士兵都用头抵着舰，头盔全部破裂了，但免于一死。第二天再战，偕同廖永忠等用七条船装置火药，焚烧敌舰数百艘。过了二天，又派六艘船深入。敌人连接大舰奋力抵抗。太祖登舵楼观望，很久还没看到什么，心想派入的六船已经失败。突然，六艘船绕敌舰出现了，像游龙一样飘然。军士欢呼，勇气百倍，越战越勇。陈友谅大败。部队驻于左蠡，俞通海建议“：湖比较浅，船难以回旋。还不如进入长江，扼住敌人的上流。敌船进入，就可顺利擒拿了。”于是移师湖口，水陆结栅。陈友谅不敢出战，困守湖中达一个月，弹尽粮绝，派兵突围，最后战败而死。在这次战役中，俞通海的功劳最大。班师回朝，赏赐良田金帛。
第二年从大军平武昌。任命为中书省平章政事。统兵进攻刘家港，进而逼近通州，打败张士诚的部队，活捉了战将朱琼、陈胜。晋升为江淮行中书省事，镇守庐州。跟从徐达平定安丰。又从克湖州，进攻太仓，秋毫无犯，老百姓十分高兴。围攻平江，激战灭渡桥，直捣桃花坞，身中流箭，伤势很重，回到金陵。太祖亲临其舍，问道：“平章知道我来问候你的病情吗？”俞通海不能回答。太祖挥泪而出。次日去世，年仅三十八岁。太祖哭得十分伤心，从官卫士都感动得落泪。追封为豫国公，侑享太庙，肖像归入功臣庙。洪武三年(1370)，改封为虢国公，谥号忠烈。俞通海的父亲俞廷玉曾任枢密院事，在通海之前去世，追封为河间郡公。俞通海没有儿子，他的弟弟俞通源继承官位。