伯颜，蒙古族八邻部人。曾祖述律哥图，侍奉太祖，为八邻部左千户。祖父阿剌，承袭其父职，兼为断事官，平忽禅有功。父亲晓古台，承袭祖辈官职，随宗王旭烈兀开拓西域。伯颜长于西域。
至元初年(1264)，旭烈兀派伯颜入朝奏陈有关西域事，世祖见他貌言非凡，留在京师。同他谈论国事，其言论总是高于朝臣，世祖更加器重，以中书右丞相安童之妹为妻。至元二年七月，拜光禄大夫、中书左丞相。四年改任中书右丞。七年调任同知枢密院事。十年春，朝廷派遣他奉玉册立燕王真金为皇太子。
至元十一年，元军大举伐宋，伯颜与史天泽一同拜为中书左丞相，主管荆湖行省事。当时荆湖、淮西各建为行省，史天泽陈奏两省号令不一，可能于政事有损。于是朝廷诏改淮西行省为行枢密院。天泽因病，上表请伯颜专理行枢密院事。于是令伯颜主管河南等路行中书省。是年七月，伯颜奉命南征，世祖告诫说“：宋朝初期，曹彬以不好杀人而平定江南，希望你体会朕意，成为本朝的曹彬。”
至元十一年九月初一，蒙古军会师于襄阳，分三路进军。十三日，伯颜与平章阿术由中路沿汉江直趋郢州，万户武秀为前锋。二十日，进至盐山，距郢州二十里。郢州在汉江北岸，城为石城，宋军又于汉江南岸筑新郢城，铁索横江，水中密插木桩，战舰不能通行。下游黄家湾堡亦有防御设施。堡西有沟，南通藤湖，离江仅数里。伯颜遣总管李庭、刘国杰攻取黄家湾堡，破竹席地，乘船由藤湖入汉江。诸将请求进攻郢城，认为郢为咽喉地，不取，恐为后患。伯颜不准，指出：“用兵缓急我心中有数。攻城是下策，大军南征，岂是为夺此一城？”于是放弃郢城不攻，顺江而下。十月十六日，元军在大泽中行进，宋郢城守将赵文义、范兴率二千骑兵来袭，伯颜、阿术率军士回击，伯颜斩赵文义，擒杀范兴，宋军士卒死五百人，被俘数十人。十月二十二日，元军进至沙洋。二十三日，伯颜命断事官杨仁风去招降，宋军不应。再命一被俘宋士兵持黄榜、檄文及赵文义人头，入城招沙洋宋军守将王虎臣、王大用投降。虎臣等杀死了那个被俘的军士，烧了黄榜。裨将傅益率水军十七人来降，虎臣等又杀了那些也想投降的人。伯颜又命吕文焕招降，仍不降。日暮大风，伯颜命顺风进行攻击，焚毁敌军房舍，城被攻破。万户忙古歹生擒虎臣、大用等四人，其余全被屠杀。二十四日，元军进至新城，令万户帖木儿、史弼将在沙洋所杀宋军的左耳列于城下，又将黄榜、檄文射入城中以招降。守将边居谊请吕文焕说话。二十五日，文焕至城下，城上飞矢中其右臂，忙回本营。二十六日，宋军守城总制黄顺越城投降，伯颜授他为招讨使，佩金符，令他去招降，其部曲立即缒城而下。边居谊又把他们拦回城内，全数杀死。二十七日，守军副都统制任宁也降，而居谊始终不降。伯颜命总管李庭攻破该城外堡，诸军如蚂蚁般纷纷登城，城破，守军只剩下的三千人还奋力死战，居谊及全家自焚。伯颜斩杀了王虎臣、王大用等四人。
至元十一年十一月十四，元军进至复州，知州翟贵降。伯颜传令，诸将不准入城，违者以军法论处。二十三日，大军至蔡店。二十五日，伯颜亲往汉口察看形势。宋淮西制置使夏贵等，以战舰万艘分据要害，都统王达守阳逻堡，京湖宣抚朱祀孙率游击军扼守中流，使元军不得前进。千户马福报告说，沦河口可通沙芜入江。伯颜派人去察看沙芜口，见夏贵以精兵把守。元军围攻汉阳军，声言要由汉口渡江。夏贵果然调兵支援汉阳。十二月四日，元军至汉口。九日，诸将自汉口开坝，引船入沦河，先遣万户阿剌罕率兵堵住沙芜口宋军，逼近武矶，巡视阳逻城堡，直趋沙芜，而入大江。初十，伯颜战舰数以万计相继入江，以数千艘停泊于沦河湾口；又将蒙古、汉军共数十万骑部署于江北，令修整军械，准备进军阳逻堡。十一日，遣人去招降，阳逻堡守军不听。十二日，再遣人去招降，宋军誓死拒守。伯颜指挥诸将进攻，连攻三日未下。与阿术密谋道“：宋军以为我军必先攻下此堡方能渡江，但此堡甚坚，不能攻克。你今夜率铁骑三千，乘舟直趋下游，实行声东击西之计，清晨渡江袭击南岸。过江后，速遣人回来报告。”十三日，遣右丞阿里海牙督率万户张弘范、忽失海牙、折的迷失等，先攻阳逻堡。夏贵率军来援。阿术出其不意，率万户晏彻儿、忙古歹、史格、贾文备四翼军，逆江而上四十里，泊于青山矶对岸。是夜大雪，遥见南岸露出沙州，阿术指挥诸军直趋沙州，自己乘船载马随后。万户史格一军先渡，受宋军都统程鹏飞的狙击而退。阿术率战舰与宋军血战，擒宋将高邦显，程鹏飞也七处受创，败走。元军俘获船千余艘，登陆南岸。阿术与镇抚何玮等数十人继续与宋军搏斗，搭起浮桥，后续部队得以渡江。阿里海牙遣张荣实、解汝楫等四翼军，乘船直抵夏贵。打败夏贵，追至鄂州东门而还。十四日，阿术遣使报捷，伯颜大喜，指挥诸将迅速攻下阳逻堡，斩守将王达，宋军大溃，数十万军几乎全部伤亡，夏贵只身逃至白虎山。
伯颜与阿术商议下步用兵方略。有人提议先取蕲州和黄州。阿术主张先取鄂州、汉阳，伯颜采纳阿术的主张。十七日，大军至鄂州，遣吕文焕、杨仁风去说降。鄂州守军依恃汉阳的应援，不降。元军焚毁宋军战船三千艘，火光照天，鄂州、汉阳两城大恐。十八日，鄂州知府张晏然、知汉阳军王仪、德安知府来兴国以及程鹏飞，纷纷降元，伯颜把他们的军队编入元军各部。二十五日，伯颜遣万户也的哥、总管忽都歹回京入奏渡江之捷，又命阿剌罕先锋黄头至寿昌运粮四十万斛以充军饷，留右丞阿里海牙等领兵四万屯驻鄂州，做进取荆、湖的准备。二十七日，伯颜与阿术率大军水陆东下，派阿术先去占据黄州。
至元十二年正月初一，元军至黄州。初二，宋沿江制置副使兼黄州知府陈奕开城投降，伯颜授陈奕为沿江大都督。奕写信至涟水，招其子陈岩亦降。十一日，伯颜至蕲州，宋安抚使管景模开门投降，授管景模为淮西宣抚使。留万户带塔儿守蕲州。同时，阿术率水军直趋江州，宋兵部尚书吕师夔、知州钱真孙投降。十四日，伯颜至江州，任师夔守江州。师夔在庾公楼宴请伯颜等，并挑选宋朝赵氏宗室女子二人送给伯颜，遭伯颜斥责。知南康军叶阊、殿前都指挥使兼安庆知府范文虎相继投诚。伯颜率大军自湖口渡江。
二月初一日，伯颜至安庆，按制度规定授范文虎为两浙大都督。初六日，至池州，宋都统制张林献城投降。初七日，宋通判权州事赵昂发与其妻自缢死，伯颜入城，令备衣棺安葬。
宋丞相贾似道遣宋京来致书议和，请求归还已降州郡，每年向元朝纳贡。伯颜留下宋京，派武略将军囊加歹同其副将阮思聪回朝廷请示。留宋京待命，遣使去宋国对贾似道说：“元军尚未渡江，议和纳贡是可以的。今沿江诸郡均归附元朝，要议和，你应当来面谈。”囊加歹回来后才释放宋京。
二月十九日，元军自池州出发，二十一日，抵丁家洲。贾似道统率诸路兵马十三万，号称百万，步军指挥使孙虎臣为前锋，淮西制置使夏贵以战舰二千五百艘横亘江中，贾似道率军为后盾。伯颜命左右翼万户率骑兵夹江而进，炮声隆隆，震撼百里，夏贵先逃，贾似道仓皇失措，立即鸣锣收军，宋军大溃。伯颜命大军追杀一百五十余里，溺死无数，缴获船二千余艘，及军械、图籍、符印等物。似道东逃扬州，夏贵逃庐州，虎臣逃往泰州。二十三日，元军攻太平州。二十六日，知州孟之缙及知无为军刘权、知镇巢军曹旺、和州知州王喜均降。二十九日，元军抵建康之龙湾，伯颜大赏将士。
三月初二日，宋沿江制置赵缙逃遁，缙兄赵淮在溧阳起兵抗元，被捕处死，都统徐王荣、翁福等开门投降，伯颜命招讨使唆都守溧阳城。镇江知府洪起畏逃遁，总管石祖忠降。宁国知府赵与可逃遁，饶州知州唐震死，江东诸郡皆为元所有。淮西滁州诸郡也相继投降。初五日，国信使廉希贤至建康，传旨令诸将各守营垒，不准妄有侵掠。希贤与严忠范等奉朝廷之命作为使臣去宋朝，请伯颜派兵护卫。伯颜说“：使臣去执行任务是靠言论而非靠武力，兵多反而坏事。”希贤坚持派兵。十五日，希贤等行至独松岭，果然为宋人所杀。十九日，伯颜派遣左右司员外郎石天麟至京陈奏大军进展情形及其今后进军方略，世祖大喜，准其所奏。命伯颜作为行中书省丞相驻建康，阿塔海、董文炳为行枢密院官员驻镇江，阿术继续进攻扬州。江东遭饥荒，瘟疫流行，伯颜赈救，百姓得以安生。宋朝遣都统洪模致书徐王荣等，申述杀元朝国使之事，朝廷实在不知，是边将所为，当按罪惩处，愿纳贡，请订和约。伯颜认为“：这是宋朝的诡计，是来探我虚实的。我们应择人去进行考察，宣布威德，令彼速降。”令议事官张羽等持王荣的回信去，行至平江驿，又为宋人所杀。
四月二十四日，朝廷有令，盛夏不利于用兵，等秋天再举。伯颜奏道：“宋人据有江海，似无可虞。现在已卡住他们的咽喉，如稍有放松，他们就逃走了。”世祖对伯颜派去的使者说：“兵法说，将在外君令有所不受，应听从丞相的意见。”
五月十七日，召伯颜回朝，以阿剌罕为参政，留行中书省管理军政事务。伯颜行至镇江同诸将商议军务后才北行至上都。七月十三日，晋升伯颜为中书右丞相，以阿术为左丞相，平江南之功让于阿术。
八月初五日，伯颜带着给宋国皇帝的诏书回到行省。他取道益都，巡视沂州等处军防情形，调淮东都元帅孛鲁欢、副都元帅阿里伯，率所部兵将逆淮河而进。九月十一日，会师淮安城下，招守将投降，不降。十三日，攻克淮安。十九日，进抵宝应军。二十一日，抵高邮。十月十三日，围攻扬州，未克，大军南行。二十五日，至镇江。十一月九日，伯颜分军三路进伐，约期会师于临安：参政阿剌罕等为右军，率步兵骑兵自建康出四安，直趋独松岭；参政董文炳等为左军，率水军自江阴沿海道趋澉浦、华亭；伯颜及右丞阿塔海为中军，水陆并进。十六日，伯颜军抵达常州。在此以前，常州宋将王宗洙已逃，通判王虎臣欲开门投降，而其都统制刘师勇与张彦、王安节不肯，推姚山言为守将，顽固抵抗数月。伯颜遣人至城下射书城中招降，不成功，于是以炮火、弓箭日夜攻城。宋浙西制置文天祥派尹玉、麻士龙来支援，皆战死。十八日，攻下常州，宋守将姚山言及通判陈火召等均战死，王安节被俘处斩，刘师勇单骑逃往平江。伯颜任命行省都事马恕为常州尹，遣蒙古军都元帅..里帖木儿、万户怀都占据无锡州，万户忙古歹、晏彻儿巡视太湖，遣监战亦乞里歹、招讨使唆都、宣抚使游显，会同..里帖木儿先趋平江。二十四日，遣宋国归降者游介实奉诏书副本及伯颜谕至宋朝廷。
十二月五日，伯颜至无锡，宋朝将作监柳岳等奉宋皇帝及太皇太后书，并宋之大臣致伯颜的信来见伯颜，请元军停止进攻，愿每年进贡和好，说明奸臣贾似道失信误国。伯颜指责宋朝拘禁元使臣十六年及无故杀害廉奉使等种种不信不义的行为。遣招讨使抄儿赤将柳岳奉宋朝求和事及严奉使所进呈宋朝国书，一并奏报朝廷。
原先，平江守将潜说友已逃，通判胡玉已降，而后来平江又为宋军占据。十二月初八日，元军会师平江，宋都统王邦杰、通判王矩之率众出降。十四日，遣囊加歹同宋使柳岳至临安。以忙古歹、范文虎行两浙大都督事。遣宁玉修吴江长桥，不到十天而成。
十二月二十四日，囊加歹同宋尚书夏士林、侍郎吕师孟、宗正少卿陆秀夫携带宋朝国书来议和，尊世祖为伯父，宋皇帝世代行子侄之礼，每年贡银二十五万两、帛二十五万匹。二十七日，伯颜遣囊加歹同吕师孟等回临安，遣忙古歹、范文虎会同阿剌罕、昔里伯取湖州。三十日，宋将赵舆可降。伯颜离开平江，留游显、怀都、忽都不花等屯兵镇守，遣宁玉守长桥。
十三年正月初三日，元军进至嘉兴，宋安抚使刘汉杰降，留万户忽都虎戍守。初七、初九、十五日，宋宰相陈宜中三次遣使议和。十八日，元军至皋亭山，宋朝皇帝遣使奉国玺及降表来军前，伯颜受纳，派囊加歹随宋使临安知府贾余庆还临安，召宋丞相来议投降事。这时，陈宜中已逃，宋朝以文天祥为丞相。十九日，元军进至临安北十五里，分派董文炳、吕文焕、范文虎巡视城堡，安抚百姓。囊加歹、洪模报告：陈宜中与张世杰、苏刘义、刘师勇等，挟益王赵曰正、广王赵籨下浙江，航海南去，宫中只有谢太后及幼主。伯颜派右军阿剌罕、奥鲁赤，左军董文炳、范文虎去追赶，但未追到。二十日，伯颜下令禁止军士进临安城，遣吕文焕持黄榜安抚城中军民。二十二日，谢太后遣丞相吴坚、文天祥，枢密谢堂，安抚贾余庆，内官邓惟善来见伯颜，伯颜送走他们，而把文天祥软禁下来。天祥多次要求放他回去，质问留他不放的缘故。伯颜说“：请不必怒，你是宋朝大臣，责任重大，形势到如此地步，我们共同执政。”原来是想要他降元。伯颜又令程鹏飞、洪双寿同宋朝的安抚贾余庆更换取消宋皇帝称号的降表。二十三日，元军驻临安城北之湖州市。遣千户囊加歹等将宋朝皇帝的传国玉印奉献于朝廷。
正月二十四日，伯颜率左右翼万户巡视临安城，受宋朝宗室大臣的进见。二十五日，令镇抚唐古歹解散文天祥所招募的二万余义兵。二十六日，命唆都抚谕临安军民，部署守城军队护卫宋朝宫廷。二十八日，遣肖郁、王世英去招降衢州、信州等地。二月初一日，遣刘颉等去淮西招降夏贵，另遣将攻占浙东、浙西。严州知府方回、婺州知府刘怡、台州知府杨必大、处州知府梁椅，相继投降。伯颜命右丞张惠，参政阿剌罕、董文炳、吕文焕入宋朝皇宫向谢太后宣布元朝的盛德。初五日，宋朝皇帝率文武百官投降。伯颜以临安为两浙大都督府，命忙古歹、范文虎管理都督府中，命张惠、阿剌罕、董文炳、吕文焕等入城，清理宋朝的钱粮，收缴百官诰命、符印、图册，废除宋朝的官府衙门，将宋亡国之君移居于别处。遣新归附的宋朝官员去招降湖南北、两广、四川之尚未攻克的州郡。部署诸将分兵屯驻要害之地。禁止偷盗和破坏宋皇室陵墓。初七日，伯颜上表朝廷，祝贺江南大捷。
二月初五日，宋恭帝赵..降。二十二日，夏贵在淮西降。三月二日，伯颜入临安城，令郎中孟祺清理登记宋宫中之礼乐祭器、册宝、仪仗、图书等物。伯颜离开临安回京。之前，令阿剌罕、董文炳留行省主持政务，以经略闽粤；令忙古歹督镇浙西并兼管浙东；令唐兀歹、李庭护送宋亡国君臣北上。
五月初一日，伯颜同亡宋君主至上都，朝拜大元皇帝，世祖授宋主赵..开府仪同三司、检校大司徒，封瀛国公。灭宋，得府三十七、州百二十八、关监二、县七百三十三。世祖慰劳伯颜，拜同知枢密院，赐银鼠青鼠只孙二十袭。对有功将校一百二十三人各有赏赐。
伯颜灭宋还京时，世祖诏令百官至郊外迎接，平章阿合马先于百官在十五里外谒见伯颜。伯颜将所系玉钩丝带送给他，且说：“宋宝玉固多，但我实在没拿，请不要嫌此礼薄。”阿合马认为是看不起他，暗地中伤伯颜，诬告伯颜在平宋时取走了玉桃盏。世祖命追查，无结果，释放伯颜，复其职务。阿合马死后，有人献此玉桃盏，世祖大惊道：“几乎陷害我忠良！”
至元二十四年四月，乃颜反，伯颜随世祖亲征，奏请以李庭、董士选率汉军，用汉人兵法作战，汉军奋力战斗，大败叛军，生擒乃颜。至元二十六年，伯颜晋升为金紫光禄大夫、知枢密院事，出镇和林。和林置枢密院，就是从伯颜开始的。
二十九年秋，宗王明理铁木儿挟海都反叛，伯颜奉诏讨伐，他身先陷阵，诸军奋力战斗，大破叛军。伯颜致书明理铁木儿，谕以祸福。明里铁木儿受感动，率众来归附。不久，海都再犯边疆，伯颜用计击溃，海都逃走。在赶走海都之前，朝廷有人向世祖进谗言，说伯颜与海都通好，故军无进展。世祖诏令由御史大夫玉昔帖木儿取代伯颜。当时成宗以皇孙的地位奉诏在北方抚军。赶走海都后，玉昔帖木儿才来接任。伯颜离任时，成宗设宴饯行，向伯颜请教今后方略，伯颜举着酒杯对成宗说“：应当慎重对待的是酒与女色。军队应当纪律严明，但还须施以恩德，二者不可偏废。冬夏扎营，还是按照原先定制为好。”成宗都听从。
三十年十二月，朝廷自大同召回伯颜。三十一年正月，世祖崩，成宗即位于上都大安阁。亲王不服，伯颜仗剑宣读祖宗宝训，说明成宗应继皇位的理由，声色俱厉，诸王畏惧，纷纷上殿叩头。五月，拜伯颜为开府仪同三司、太傅、录军国重事，仍知枢密院事。江南三省多次请求废除行枢密院，成宗问伯颜应如何处理。这时伯颜已病在床，对成宗说：“在朝廷内，中书省与枢密院应该分开为好，而在外地，若将军政分开则多有不便。”成宗听取了他的意见，撤销各省行枢密院。十二月二十五日，伯颜逝世，年五十九岁。
伯颜深谋远略，善于决断，率二十万大军伐宋如领导指挥一人，诸将帅敬仰如神明。灭宋还朝，行装仅衣被而已，从不夸耀自己的功劳。大德八年(1304)，特赠宣忠佐命开济功臣、太师、开府仪同三司，追封淮安王，谥“忠武”。至正四年(1344)，加赠宣忠佐命开济翊戴功臣，进封淮王，其余如故。有子二人：买的，任佥枢密院事；囊加歹，任枢密副使。