黄绂，字用章，其远祖为封丘人。曾祖父时迁到平越，遂定居于此。黄绂荣登正统十三年(1448)的进士榜，授行人官职，接着官任南京刑部郎中。黄绂为人刚正廉洁，人们送他一个雅号，称为“硬黄”。当时有一个特别奸猾的谭千户，他强占百姓芦场，人们不敢追究，黄绂却断然将其夺回发还原主。
成化九年(1473)，黄绂调任四川布政司左参议。若干年后，升任左参政。一次巡查部属到崇庆，突然有旋风起于轿前，坐轿不能前行。黄绂说：“此间必有冤情，我当为之申理。”旋风于是散去。来到州城，他祈祷城隍神，晚上梦中似有人说州西寺事。该寺离州四十里，倚山而建，寺后有一巨大的池塘。寺中的和尚常在夜间杀人，并沉尸于塘中，瓜分被劫掠来的财物。而且还藏纳妇女于寺内洞窟之中。黄绂获得情报后，立即调遣官吏兵卒包围了寺院，在一番追根究底的审讯之后，获得了寺中和尚为非作歹的事实，于是诛杀了寺内和尚，并捣毁了这座寺院。有一个掌管仓库的官吏，倚仗皇亲的权势贪污粮达万石之多，黄绂发现后按法律条文追论其罪，黄绂因此威名大振。黄绂历任四川、湖广左、右布政使。他奏请关闭建昌银矿。在南北两京的维修工程中，湖广当供应白银二万两，按成例这些银两由百姓分摊，但黄绂为了减轻民众负担，动用府库的羡余钱支付。荆王奏请迁徙先祖坟墓，黄绂担心侵扰百姓，坚决不同意。
成化二十二年(1486)，黄绂升任为右副都御史，巡抚延绥地区，他弹劾参将郭镛、都指挥郑印、李铎、王琮等人的违法行为，并将他们付之刑律。还用计捕获大奸之人张纲。并严申军令，增建墩台、城堡，边地防备为之一新。黄绂在边塞见士卒的妻子衣不蔽体，叹息说：“边防健儿家贫至此，我有何脸面居其上位？”他即刻预支三个月的兵饷，亲自抚慰士卒。正值皇帝有诏毁除庵寺，黄绂趁此机会将尼姑尽数裁汰，并将她们配给无妻的壮士。等黄绂离开边塞时，他们多带子女跪在道边相送。
弘治三年(1490)，黄绂官任南京户部尚书。言官因黄绂提升太快，频繁进言，弘治皇帝并不接受，改任黄绂为左都御史，孝宗在庭中当众焚毁履历簿，说：“任事贵在得到合适的人选，按资历功劳的远近大小授官，并不是朝廷设官的本意。”
黄绂历任官职四十余年，性情急躁，缺乏宽容。然而操行廉洁，所到之处，均有建树。弘治六年(1493)，请求退休，未及起程就辞世而去。