駐餘姚，并且向兀..請求增兵。
過了七天，金軍再次來到，張俊率兵進入台州，明州居民逃走的十占七八。
不久，江、浙一帶盜賊蜂起，朝廷授張俊為兩浙西路、江南東路制置使，率領所部招降群盜，并命令後軍統制陳思恭隸屬他指揮，還下令兩浙宣撫使周望以所部兵隸屬張俊，除劉光世、韓世忠以外，衆将都由張俊指揮。
六月，朝廷改禦前五軍為神武軍，張俊部改為神武右軍，他本人任都統制，升為檢校少保、定江昭慶軍節度使。
十月，浙西群盜全部平定，張俊改任江南招讨使。
紹興元年(1131)，高宗到會稽。
當時正值金軍殘害蹂躏之後，孔彥舟占據武陵，張用占據襄漢；李成尤其精悍，強行占據江淮、湖湘地區十餘個州郡，合兵數萬人，有席卷東南地區的意圖，大肆散布符咒谶言迷惑煽動人心，包圍江州長時不解圍，當時朝廷正為此感到憂慮。
範宗尹請求派遣将領前去征讨，張俊慷慨請戰，于是改任江、淮路招讨使。
李成黨羽馬進在筠州。
豫章介于江、筠州之間，張俊接到命令就率部出發，急赴豫章，并且說：“我已經得到洪州，擊破賊寇是必然的。
”乃收縮兵力進入城中，好像城中無人，金鼓不動，命令将士有登上城牆的斬首。
居留一個多月，馬進送來一封很大的書信要求決戰，張俊寫了一封很小的書信回答，馬進以為張俊害怕。
張俊偵察到賊衆戒備松懈，才準備作戰。
嶽飛為先鋒，楊沂中從上遊斷絕生米渡，出敵不意，追擊奔逃的敵衆七十裡，到達筠州。
賊寇背靠筠河布列陣勢，張俊采納楊沂中的計策，親率步兵在敵陣對面進攻，把精銳騎兵數千人交給楊沂中和陳思恭，讓他們從山後夾擊敵人，以中午為期限。
張俊同賊寇激戰到中午，楊沂中、陳思恭率領精銳騎兵從山下急馳而下，賊衆驚駭混亂退走，大敗。
收複筠州、臨江軍之後，捷報上奏朝廷，高宗賜親筆書信，說“：應當乘賊衆勢力已衰弱之際，官軍士氣振奮之時，長驅鏟除剿滅賊寇，迅速争取徹底勝利。
”張俊沒有等到拜受高宗親自書寫的诏令，就已經追擊賊衆到北奉新樓子莊。
賊寇黨羽商元占據草山，依憑險要地形布設埋伏，張俊派遣步兵從小道直奔山上，殺死伏兵奪得險隘，乘勝追擊至江州。
李成形勢危急，渡江而逃，稱呼張俊為“張鐵山”。
張俊收複江州。
不久興國軍等處群盜聽說張俊率兵來到，都逃走。
張俊率兵渡江到黃梅縣，親自同李成交戰。
李成接受奉新喪失險隘失敗的教訓，占據石幢坡，憑借山險用木石滾壓官軍。
張俊先派散兵前進，假做急奪險隘的樣子以迷惑敵人，自己親自冒着箭矢滾石，率衆攻取險隘，賊衆數萬人全部崩潰，馬進被追兵殺死，李成逃到北方投降劉豫，各郡全部平定。
朝廷拜張俊為太尉