宇文孝伯，字胡王，宇文深之子。他与周武帝宇文邕同一天出生，所以，周文帝宇文泰很喜欢他，将他养在自己家里。长大后，又与武帝一起上学。武成元年(559)，朝廷封他为宗师上士，年仅十六岁。他性情沉稳正直，说话爽快，好直率地说出自己的看法。
武帝即位，想将他安置在自己身边。当时，朝廷大权由宰相宇文护掌握，武帝无法决定，便托词说孝伯从小与自己一起学习经书，想在一起互相启发。因此，宇文护没有怀疑，孝伯得以进入朝廷，任右侍上士，常常陪武帝读书。他的父亲去世后，朝廷命他在守丧时继承父亲的爵位。武帝曾对他说：“你与我，就像卢绾与汉高祖啊！”赐给他镶有十三块玉环的金带。从此，他常常侍奉在武帝身边，出入于武帝的卧室，朝廷事务也都得以参与，他都竭心尽力，无所保留。对于时政的得失，外面的种种事情，他都讲给武帝听。武帝对他十分信任，当时无人可比。准备诛杀晋公宇文护时，武帝与卫王宇文直秘密商议，只有他和王轨、宇文神举等人参与。宇文护被诛杀，朝廷封他为开府仪同三司，又历任司会中大夫和左官正的职务。
皇太子不具备美好的品德。孝伯对武帝说“：没有听说皇太子有很好的道德声誉，请认真挑选正派的人做他的老师和学友，以改变他的品质。不然，后悔也来不及。”武帝听后严肃地说“：你是举世公认的耿直正派，应该竭诚地对待太子。听你说话的意思，这是家风造成的。”孝伯连忙叩拜谢罪说：“不是我说起来难，是你接受起来不容易啊，深望陛下您三思。”武帝说：“正派的人谁能赶得上您呢？”于是，武帝命尉迟运为右官正，宇文孝伯为左官正、宗师中大夫。他又迁升为右宫伯。一次因侍坐武帝身边，武帝问他“：太子最近有长进吗？”他答道“：皇太子畏惧您的威严，没有什么过失。”王轨在宫内宴会上捋着武帝的胡须，叙说太子的过失。武帝停止喝酒，指责孝伯说“：你常对我说太子没有过失，现在王轨这样说，是你欺骗了我。”孝伯叩头，然后说“：我听说父子之间的感情，一般人很难说清楚。我知道陛下您不能割舍父子的情爱，便结舌闭口。”武帝理解他的意思，沉默许久才说：“我已将太子委托给你，你要勉为其难，认真教育。”
周军大举东进，讨伐北齐，朝廷封他为内史下大夫，命他掌管留守京城的事务。大军归来，武帝对他说：“留守职责的重大，并不次于作战的功劳。”于是，加授他为大将军，晋封爵位为广陵郡公，并赐给他金银布帛和歌妓等，又命他为宗师。武帝每次外出，都令他留守京城。后来，武帝向北讨伐，到云阳宫时患病，赶快召孝伯赶赴临时的住所，武帝拉着他的手说：“我估计很难痊愈，因而把后事托给你。”当夜，封他为司卫上大夫，统率宿卫京城的兵马，命他赶快回京城镇守。
宣帝即位，封孝伯为小冢宰。宣帝忌恨齐王宇文宪，想除掉他，便对孝伯说“：你如果能除掉他，我把他的官位授给你。”他连忙叩头，劝谏说：“齐王在宗室中关系亲近，功劳又高，是国家的栋梁。我如果遵从您的旨意，那么我对国家就不忠，陛下您也会成为不孝之子。”宣帝因而疏远他，便与于智、郑译等密谋这件事，命于智诬告齐王阴谋反叛，派孝伯将他召入宫中杀死。
宣帝曾参与西征，在军中犯有过失，郑译当时也参与其事。军队归来后，孝伯和王轨把情况全部奏报给武帝。武帝恼怒，打了宣帝数十杖，除掉郑译的名籍。宣帝当皇帝后，追想起这件被打的事，问郑译：“我脚上被杖责的伤痕是谁干的事？”郑译答“：事情是由宇文孝伯和王轨告发引起的。”郑译又说王轨捋武帝胡须的事，宣帝便将王轨杀害。尉迟运心里害怕，私下里对孝伯说：“我们这些人一定不会免除灾祸，怎么办呢？”孝伯说“：现在堂上有年迈的母亲，地下有刚去世不久的武帝，为人臣又为人子，又能怎么办？况且我们以自身侍奉人君，本来就应为名节大义殉身，劝谏他又不听，怎么会逃脱一死？你如果为了一己的身家性命打算，应该远祸保身，离开朝廷。”于是，他们二人各行其志，尉迟运不久出任秦州总管。宣帝荒淫无度，一天比一天严重；诛戮大臣，毫无法度。孝伯多次劝谏，都无济于事，宣帝反而更加疏远和忌恨他。后来稽胡造反，宣帝命他为行军总管，与越王宇文盛一起将叛兵讨平。大军归来后，宣帝想杀掉他，便假借齐王宇文宪的事讥讽他，说：“你明明知道齐王想谋反，为什么不告发？”孝伯答道：“我知道齐王忠于朝廷，被群小们构陷诬害，横加罪名。我说了一定不被采用，所以不说。况且先帝嘱托我辅助陛下您，现在劝谏您又不听，我实在有负先帝重托。你因此加罪于我，是我甘心领受的。”宣帝听后满面惭愧，俯首不语，命在家中赐孝伯死罪，时年仅三十六岁。
隋文帝代周立隋，即皇帝位，因孝伯和王轨忠贞而获罪被害，命将他们重新安葬，恢复他们的官爵。他曾对高颍说：“宇文孝伯实在是北周卓越的大臣。如果此人继续在朝执政，我们就没有下手的地方。”