李钺等把他們打得敗逃而去。
捷報傳給朝廷後，武宗用加蓋玉玺的诏書獎勵了林俊。
林俊在部隊裡，與總督洪鐘議事往往意見不一。
一些太監的子弟要跟着冒認軍功，林俊總是不許這樣。
禦史俞缁臨陣脫逃躲避敵人，緻使佥事吳景陣亡。
俞缁感到慚愧不安，想嫁罪于林俊，就彈劾林俊一次次報上斬敵之功，反賊到底還沒消滅掉，加上他開鑿水井，拆毀寺廟，趕出僧人，迫使他們都做了賊。
于是林俊前後幾次受到嚴厲批評。
等到方四敗滅以後，江西反賊差不多消滅幹淨了，林俊上書辭謝給自己的晉級和獎賞，請求讓自己以原來的職務告老還鄉。
诏書傳下來，不允許他辭謝晉級，但準予退休，言官紛紛上書請對林俊加以留用，武宗沒做任何批示。
林俊起程回家的時候，江西的士紳、百姓号哭追送，戀戀不舍。
當時是正德六年(1511)十一月。
世宗即位以後，起用他做工部尚書，又改為刑部尚書。
他在赴京的路上就幾番稱病求罷，世宗不同意。
他在奏章中還進而請求世宗親近儒臣，平心靜氣地發号施令，以樸實、厚重的美德做天下人的榜樣；即位诏書中所要革除的弊端，實行過程中不要遷就，以免使公衆的輿論落空。
抵達京師後，正碰上暑天，經筵停止進行日講，林俊就拿祖宗勤學的故事來勸谏世宗。
他那時已經有七十歲了，卻隻在朝房中居住，以示沒有長期住下來的意思。
他幾次給世宗講要親近大臣，勤于研究儒學，明辨佛、道是異端，治國要節約财用等道理。
朝廷中間每有大事，他一定侃侃陳論，當時朝堂内外的人們都想一睹他的風采呢。
宦官葛景等人非法謀利的事暴露後，被言官舉報上去，世宗傳令讓司禮太監審訊，林俊說内臣犯法，法司不能審問，這樣宮廷和朝廷不就一分為二了嗎？請交給法司公審，以顯示政治的公平、光明。
都督劉晖關入監獄後，林俊認為應按結成朋黨的律令來斷，說劉晖與許泰罪惡相等，請将他斬首以告慰天下人。
廖鵬、廖铠、齊佐、王王獻被判死刑後，世宗屢次诏令緩期執行，林俊上書請立即執行。
後來他又彈劾谷大用侵占民田一萬多頃。
世宗都沒有聽從他的意見。
宦官崔文的仆人李陽鳳向匠師宋钰索取賄賂不成，慫恿崔文把宋钰差點一棒打死了，崔文被關在刑部獄中尚未定案，已從宮廷内直接傳來聖旨要刑部把他移交鎮撫司。
林俊押下不肯移交，極力向世宗谏诤，世宗不聽。
第二天林俊再次上書，世宗惱火地責成他作出書面解釋。
林俊說“：祖宗把量刑交給法司辦理