王罴，字熊罴，京兆霸城人。西汉河南尹王遵的后代，世代都是州郡中的大姓。他性格质朴正直刚强，处理事情公平恰当，州中的人们都敬服和畏惧他。北魏孝文帝太和年间，他任殿中将军，不久迁任雍州别驾。他清正廉洁，疾恶如仇，励精图治，尽力公事。刺史崔亮有知人之明，对王罴十分器重和关照。崔亮后来任真州刺史，奏报朝廷请王罴任长史。朝廷中掌握重权的人担心王罴不能胜任，没有同意。梁朝人侵犯硖石，崔亮任都督率军南讨，又启奏朝廷，请求以王罴为长史，并让他率领精锐军队。朝廷看崔亮几次举荐王罴，所以任用了他。硖石克复之后，王罴的功劳最多。南岐和东益州的氐族和羌族反叛，朝廷命王罴为冠军将军，镇守梁州，讨平夷族叛兵。归来，朝廷封他为西河内史，他没有接受。当时有人对他说：“西河地域辽阔，俸禄优厚，你为什么辞去这个职务？”他答道“：京城洛阳建筑需要的木材，都是西河出产。朝廷的显贵政要们营造府第，都必需有求必应。如果私下办理，则人力物力都负担不起；如果向百姓摊派，又违犯宪典。所以，我要辞去这个职务。”
后来他因立有军功被封为定阳子，任荆州刺史。南梁又派曹义宗领兵围攻荆州，堵水浇灌城池，城墙没有被淹住的地方只有几块木板宽。当时朝廷内外都有祸乱，没有力量救援，于是送给王罴一份铁铸的券书，说如果能保全城池，就命他为本州刺史。城中粮食吃尽，王罴便煮粥与将士平均分食。每次出城，他常不披挂甲胄，大声祭告上天说：“荆州城，是孝文皇帝时所设置。上天如果不扶助我们的国家，让箭射中我的前额；如果不是这样，就让我打败敌兵。”他屡经战阵，也没有被伤害。经过三年，曹义宗才撤退。他被封爵为霸城县公。元颢率南朝军队占据洛阳，便任命王罴为左军大都督。元颢失败，孝庄帝因王罴接受了元颢的封官，所以不能在本州任职，另外命他为岐州刺史。
这时南秦数次背叛，朝廷命王罴代行南秦州刺史的职务。他到任后，召集当地的首领作为心腹，将反叛者拘捕殆尽。他对首领们说“：你们的同党都已死尽，你们何必再活着！”便将他们一一斩首。从此南秦不再有人反叛。朝廷又命他代行秦州刺史。不久迁任为泾州刺史。还没有到任所，宇文泰为了勤王征集军队，他请求作为前驱为朝廷效命，便被任命为大都督，镇守华州。
孝武帝西迁后，晋封王罴为车骑大将军、仪同三司，又封爵为万年县伯，任华州刺史。高欢率军进攻潼关，人人心怀恐惧，他劝慰将士，大家才平静下来。高欢撤退后，朝廷命他为骠骑大将军，加封为侍中、开府。他曾派人修筑州城，没有完工，施工用的梯子留在城墙外面。高欢派韩轨、司马子如从河东晚上涉水袭击王罴，他没有发觉。拂晓时，韩轨等人已顺着梯子进入城中。他还睡在床上没有起来，听见门外杀声阵阵，便光着身子，裸露着发髻，赤着双脚，手拿一根白木棒，大声呼喊着奔出，说：“老熊当道卧，你们这些貉子怎么能过去！”敌兵看见，吃惊退走。他赶到东门，将士汇集，合力将入侵的敌兵打败，韩轨跳下城墙逃跑。西魏文帝听说后，很为他的壮举称赞。这时关中发生大饥荒，朝廷命他向百姓征收粮食以作军费。如有隐藏不交的，令百姓互相告发，很多人被鞭笞拷打，因此有很多人逃散。惟有王罴以信义著称，百姓没有隐匿粮食的，他征收到的粮食也不比别州的少，百姓也没有怨言。沙苑之役，高欢的军队斗志旺盛。文帝因华州地处通往长安的咽喉要道，派使者慰劳王罴，命他加紧防守。高欢来到华州城下，对王罴说：“你为何不快快投降？”王罴大声喊道“：这座城池就是我的家，死活都在此处，想死的就来吧！”高欢不敢攻打。
他后来移镇河东，积累前后功勋晋爵为扶风郡公。河桥之战，西魏军队失利，赵青雀据守长安，各地的守军都没有坚守的意志。王罴打开华州的城门，召集城中的将士，对他们说：“听说天子被打败，不知道吉凶祸福，人们互相惊扰，都有各种不同的想法。王罴受朝廷委任驻守这里，决心以死报答君恩。你们如有异谋，可来杀死我。害怕州城陷没敌手的，也可以任意出城逃命。如果有人忠于朝廷，能与我同心协力的，可共同坚守。”将士们见他诚恳信任，都没有别的想法。
军队返回后，朝廷授命他为雍州刺史。这时，蠕蠕族的军队渡过黄河向南进犯，侦察的骑兵已经到达幽州。朝廷担心他们深入腹地，便征发人马，驻扎在京城。在街市上修筑堡垒，以防备敌人侵入。右仆射周惠达召请王罴商议对策。他不接受周惠达的邀请，躺在床上没有起来，对来人说：“如果蠕蠕人到达渭北，我率领乡兵把他们赶走，不烦劳国家的军队，为什么天子居住的京城中，做出这样惊慌失措的举动？想不到周家这位小儿如此胆怯！”他轻慢权贵，守正不阿，都像这件事。不久，仍镇守河东。
他性情俭约随便，不修边幅。曾有省台的使者到他这里，他为使者设下饭食，使者撕去薄饼的边不吃。他颇为不快，说：“农夫耕种收获，费工颇多；舂米炊火，做成饼子，又用力不少。你这样挑剔，大概是没有挨过饿。”命左右将饭食撤去。使者非常吃惊和惭愧。又有一位客人与他一起吃瓜，客人把瓜皮削得太厚，去掉的肉稍多，他心里很不高兴。瓜皮落到地上，他便用手从地上捡起来吃掉。客人见了大为愧疚。他的性情又很严厉峻急，有一个官吏向他陈报事情夹带私怨，他来不及命皂役拷打他，便抓起靴子去打这个人。每逢宴会，他亲自用秤称酒和肉，分给将士们。人们都称赞他的公平，又鄙薄他的琐碎。他的举动天真自然，不巧伪欺诈。他所任职的地方，虽然当时没有明显的功绩，但是离开后人们都想念他。他死在任上，朝廷赠封他为太尉、都督、相冀等十州刺史，谥号为忠。
他安于贫穷简朴，不经营家产。后来虽然官位很高，在家乡的旧宅仍不改换原来的样子。死的时候，家境十分困窘，当时人们都佩服他的清廉。