黃绂，字用章，其遠祖為封丘人。曾祖父時遷到平越，遂定居于此。黃绂榮登正統十三年(1448)的進士榜，授行人官職，接着官任南京刑部郎中。黃绂為人剛正廉潔，人們送他一個雅号，稱為“硬黃”。當時有一個特别奸猾的譚千戶，他強占百姓蘆場，人們不敢追究，黃绂卻斷然将其奪回發還原主。
成化九年(1473)，黃绂調任四川布政司左參議。若幹年後，升任左參政。一次巡查部屬到崇慶，突然有旋風起于轎前，坐轎不能前行。黃绂說：“此間必有冤情，我當為之申理。”旋風于是散去。來到州城，他祈禱城隍神，晚上夢中似有人說州西寺事。該寺離州四十裡，倚山而建，寺後有一巨大的池塘。寺中的和尚常在夜間殺人，并沉屍于塘中，瓜分被劫掠來的财物。而且還藏納婦女于寺内洞窟之中。黃绂獲得情報後，立即調遣官吏兵卒包圍了寺院，在一番追根究底的審訊之後，獲得了寺中和尚為非作歹的事實，于是誅殺了寺内和尚，并搗毀了這座寺院。有一個掌管倉庫的官吏，倚仗皇親的權勢貪污糧達萬石之多，黃绂發現後按法律條文追論其罪，黃绂因此威名大振。黃绂曆任四川、湖廣左、右布政使。他奏請關閉建昌銀礦。在南北兩京的維修工程中，湖廣當供應白銀二萬兩，按成例這些銀兩由百姓分攤，但黃绂為了減輕民衆負擔，動用府庫的羨餘錢支付。荊王奏請遷徙先祖墳墓，黃绂擔心侵擾百姓，堅決不同意。
成化二十二年(1486)，黃绂升任為右副都禦史，巡撫延綏地區，他彈劾參将郭镛、都指揮鄭印、李铎、王琮等人的違法行為，并将他們付之刑律。還用計捕獲大奸之人張綱。并嚴申軍令，增建墩台、城堡，邊地防備為之一新。黃绂在邊塞見士卒的妻子衣不蔽體，歎息說：“邊防健兒家貧至此，我有何臉面居其上位？”他即刻預支三個月的兵饷，親自撫慰士卒。正值皇帝有诏毀除庵寺，黃绂趁此機會将尼姑盡數裁汰，并将她們配給無妻的壯士。等黃绂離開邊塞時，他們多帶子女跪在道邊相送。
弘治三年(1490)，黃绂官任南京戶部尚書。言官因黃绂提升太快，頻繁進言，弘治皇帝并不接受，改任黃绂為左都禦史，孝宗在庭中當衆焚毀履曆簿，說：“任事貴在得到合适的人選，按資曆功勞的遠近大小授官，并不是朝廷設官的本意。”
黃绂曆任官職四十餘年，性情急躁，缺乏寬容。然而操行廉潔，所到之處，均有建樹。弘治六年(1493)，請求退休，未及起程就辭世而去。