餘子俊，字士英，青神人。
父親餘祥曾任戶部郎中。
景泰二年餘子俊考中進士，授予戶部主事官職，升為員外郎。
在戶部十年，以清廉有才幹而著稱。
後調離戶部任西安知府，遇到災年，他打開糧倉取出十萬石糧食救濟貧民，償還時區别對待，做到官府不受損而百姓得到救濟。
成化初年，主管部門上報政績突出應當受到表彰的官員，知府有十人，而餘子俊位居第一。
由于林聰推薦，他被任為陝西右參政，一年多後提升為右布政使。
六年(1470)，轉為左布政使，調任浙江，剛剛半年，授他右副都禦史官職，巡撫延綏。
在這以前，巡撫王銳從長遠考慮請求沿邊境築牆建堡，工程還未動工就被否決了。
餘子俊上疏說“：三邊隻有延慶平坦開闊，利于驅馬急馳。
寇屢次入侵，俘獲邊民做向導，一直進入河套駐紮放牧。
從此寇竟居于塞内，我們反而屯于塞外，在沿邊築牆建堡是當務之急。
況且現在舊界石還在，高山多懸崖陡壁，依照山形，随着地勢，有的鏟削，有的壘築，有的挖壕溝，延綿相接，形成邊牆，這對于邊牆工程來說較為方便。
”尚書白圭以陝西百姓正貧困，奏請緩興工程。
不久寇進入孤山堡，又入侵榆林，餘子俊先後與朱永、許甯一起擊敗寇賊。
這時，寇占據河套，連年派遣大軍征讨，沒有什麼實際效果。
成化八年(1472)秋，餘子俊說：“現在征讨河套的兵馬駐紮在延綏的有八萬，牲口飼料靠内地，如果今年冬天敵寇不向北退卻，又需要準備下一年的軍需供應。
姑且用今年的數額約略估計，米豆需銀九十四萬兩，草料需銀六十萬兩。
每人運米豆六鬥、草四束，應該動用四百零七萬人，大約花費用八百二十五萬兩。
公私冗雜繁亂到這種地步，怎能不改變謀劃！臣先要求築牆建堡，诏書說要等事情安定後再進行，請求于明年春夏敵寇人馬疲乏時，役使陝西運糧百姓五萬，供給食物，興建工程，要求兩個月完工。
”白圭仍然堅持他的意見，阻撓興建工程，皇帝認為餘子俊說的對，下令迅速進行此項工程。
餘子俊先因軍功升為左副都禦史，第二年，又因搗毀紅鹽池巢穴有功，升為右都禦史。
由于巢穴被搗毀，賊寇因此遠徙，不敢再在河套居住。
内地憂患漸漸平息，餘子俊就全力興建工程。
東起清水營，西抵花馬池，連綿一千七百七十裡，鑿崖築牆，又在其下挖濠溝，一直連綿不絕。
每隔二三裡建置..望台、崖栅以便巡視警戒。
又在崖栅空處築矮