乔宇，字希大，山西乐平人。祖父乔毅曾当过工部左侍郎。父亲乔凤当过职方郎中。他们都以廉洁著名。乔宇自己考中成化二十年(1484)进士，初任礼部主事。弘治初年，王恕当吏部尚书时调他到文选司，三次升迁做到郎中。他在自己家中从不接受私人拜访。后来他升任太常少卿。
武宗即位后，派乔宇到中镇、西海祭神。回朝后，乔宇上书列举了六点路上所看到的军民百姓困苦不堪的情况。过后，他升任光禄卿，又先后做过户部左、右侍郎。刘瑾败亡后，很多大臣因为追随他拉帮结派受到弹劾，乔宇却一无所染，因此武宗用他做了南京礼部尚书。乾清宫发生灾祸以后，乔宇率领同事上书说武宗不经常上朝，经筵长时间关闭，皇储还没有确定，干儿子倒有一大堆，西番的和尚呆在禁宫里边，唱戏的优伶侍候皇上起卧，开设皇家店铺，边防部队留驻京师，不自爱惜练习战斗，各种土木工程频频兴建，供应皇宫的织造工作没完没了，一共讲了十件需加改正的事情。武宗并不予理睬。过了很长时间，乔宇改任南京兵部尚书，开始参与机要的军政大事。因为武宗远游边塞，没有人监国，乔宇上书请尽快确定皇储。武宗打算亲自统兵进攻北方敌寇，乔宇又率领同事一起上书谏阻。武宗都没有作什么答复。
不多久，宁王宸濠谋反，扬言马上要攻打南京。乔宁严加警备，但表面上谈笑自如，经常陪伴客人在南京城外设宴嬉游，暗中考察地势险易，安排士兵驻防。由于他周密地进行了布置，南京城内、外都很平静。指挥杨锐很有谋略和才干，乔宇安排他做安庆守备。镇守中官刘琅与宸濠暗中勾结，替他埋伏了敢死队。乔宇侦察到这个情况，质问刘琅是谁在管事，刘琅怕了，不敢轻举妄动。于是乔宇派人在城中大加搜捕，斩了三百名刘琅埋伏下的壮士，把他们的脑袋悬挂于江面上。宸濠失去了内应，并且知道南京做了准备，不敢东下。他猛攻安庆，杨锐在那里固守着，打不下来。没几天宸濠的叛乱也就失败了。
武宗到达南京后，诏令百官穿军装上朝欢庆明年元旦。乔宇不同意，率领群臣都穿着朝服上朝庆贺。江彬想要各个城门的钥匙，都督府过来问乔宇，乔宇说“：守备官是用来防范非常事变的。禁城城门的钥匙谁敢来要，又有谁敢给他，就是天子下诏来要也不能拿到。”都督府用乔宇的话答复了来人，事方算完。江彬假称圣旨来讨什么东西，一天能跑几十趟，乔宇总是在朝中向武宗禀报，江彬也只好稍稍收敛一些。江彬想进谗言把乔宇赶走，守备太监王伟(当初给武宗当过伴读，武宗很信赖他)常从中周旋，维护乔宇，所以江彬的奸计没能得逞。武宗在南京停留了九个月，乔宇三次号召大臣们恳求武宗回程，又亲自到宫门外跪地请愿。武宗起程后，他陪同走到扬州。第二年，乔宇加官为太子太保。评议保护南京城的功劳，又被加官为少保。
世宗即位后，召乔宇回朝当了吏部尚书。乔宇自早年当文选郎，就能辨别人才，到这时更使人才选拔问题得到妥善解决。世宗追求太平的决心很坚定。乔宇与林俊、彭泽、孙交当时都是国内很有名望的重臣，世宗也都任用了他们。凡是过去被权贵们罢贬的人臣，乔宇都把他起复，安排在各种职务上，一时间天下欣欣向治。但是世宗性格刚勇，喜欢自以为是，乔宇的意见渐渐也不被采纳了。兴王府候补的官吏六十三个人请求升用，乔宇说这些人本来就是虚挂一个名籍，与事实上担任职务的不同，所以程度不等地给他们以贬免、处分，他们都记恨乔宇。世宗想封驸马都尉崔元为侯，外戚蒋轮、邵喜为伯，乔宇不同意。不久，世宗还是下诏把寿宁侯张鹤龄加封为公，封皇后的父亲陈万言为伯，让万言的儿子绍祖当了尚宝丞。乔宇说“：历朝太后的亲属没有活着就封为公爵的，张峦也是死后才追赠的，现在怎么能把父亲死后追赠的封爵加在活着的儿子身上？万言封伯比张峦还来得快些，他的儿子授官为尚宝丞不合乎规定。希望陛下遵照典章制度办事，以便流传万代。”世宗都没有听从。史道攻击杨廷和，乔宇说史道挟私报复，于是把他打入了皇家监狱。曹嘉帮史道弹劾乔宇，乔宇请求罢官，世宗让鸿胪寺派人到乔宇家中催他出来上班。
乔宇遇到讲不通的事无不据理力争，其中争论“大礼”争得最厉害。世宗想给兴献帝追加皇号，乔宇说给亲生父王追加皇号，就会妨害皇位的正宗谱系，不是用来重视宗庙，正定名分应有的办法。后来等礼官奏请称献帝为本生考时，世宗改为本生皇考，又传令在宫中修建献帝庙，乔宇等人又接连几次上书谏阻。宫廷中传出世宗的特别圣旨任命席书为礼部尚书，乔宇又和九卿一块上书说“：陛下罢免汪俊，任用席书，贬走马明衡、季本、陈逅，征召张璁、桂萼、霍韬，举动异常，人心惊惧。况且席书不经过朝臣推举，就直接从宫廷中传出特别圣旨，这还是祖宗开国以来未曾有过的事呢。请陛下传令让汪俊和席书各安原职，饶恕明衡等人，停止对张璁、桂萼的征召。”不久又请求罢免张璁、桂萼、席书，从监狱中放出争议“大礼”的吕木冉和邹守益。
等到张璁、桂萼到京城后，世宗传下诏书把他们都用为学士。乔宇等人又上书说“：宫廷中施行的恩泽，以前历朝大都是加给宦官之流的。士大夫一沾这边，就被正直的舆论所蔑视。何况学士是最清高、华美的职位，让桂萼等人来充任，谁还肯跟他们同事呢？”世宗恼了，把他们严厉批评了一番。乔宇于是请求离休，世宗同意了，不过仍按惯例让他乘坐驿站车马回乡，颁发禄米。御史许中、刘隅等奏请留用乔宇，世宗说：“我又不是不用乔宇，是他自己因病要求离休的嘛。”后来《明伦大典》成书，追论乔宇以前关于“大礼”的主张，他被剥夺了官职。杨一清死后，乔宇渡江去祭奠他，南京的父老乡亲都出城来迎接他，把手举在额头上说“：使我们得以活下来的，就是乔公您啊！”
乔宇从小跟着父亲住在北京，向杨一清问学，考中进士后又跟着李东阳游学。他的诗文风格雄健，并兼通篆文、籀文。他天生爱好山水风景，一次他登上太华山顶峰，撞上一只老虎，仆人们都吓得跌倒在地，乔宇却端坐不动，一会儿老虎就夹着尾巴离开了。他居家清贫，穿的像个穷书生。他死后，两个妾刘氏、许氏都主动跟着殉身而死了。穆宗即位后，为乔宇恢复了官籍，并追赠他为少傅，谥庄简。