除他的虛銜，任真正的觀察使。
建炎二年(1128)，升任秦鳳路馬步軍副總管，不久擊破秀州賊盜數萬人，俘虜徐明将他斬首。
進為武甯軍承宣使。
高宗到揚州，召集衆将商議恢複中原事宜，張俊說：“當今敵人勢力正處于強大之時，應該暫且南渡長江，占據長江作為天險，整軍練兵，安定人心，等到國家形勢安定下來後，再大舉行動不晚。
”張俊又請求把左藏庫移到鎮江。
不久敵軍突然來到，已逼近城郊，張俊急忙上奏整飾車馬，随從高宗逃到臨安。
苗傅、劉正彥反叛，張俊當時率兵屯駐在吳江縣。
苗傅等僞作诏令加張俊為捧日、天武四廂都指揮使，率三百人趕往秦鳳，并命令其他将領率領剩下的軍隊。
張俊知道诏令是假的，拒不接受。
全軍上下人心惶恐，張俊勸說他們說：“應該到張浚那裡請求決定。
”于是立即率領所部八千人到平江。
張浚對張俊說及苗傅等人打算危害國家，涕淚縱橫而下，張俊也大哭。
張浚曉谕他以決定起兵反叛之罪讨伐苗傅，張俊哭泣下拜，并說“：這必須你用計謀輔助，不要驚動皇上。
”呂頤浩到，張俊會見他，也流淚說“：今天隻有一死報效國家了。
”劉光世率領所部到來，張俊同他冰釋前嫌。
韓世忠從海上來到，張俊軍一部同他俱至。
韓世忠為前鋒，張俊率精兵作為兩翼，劉光世随後。
在臨平展開激戰，苗傅等失敗，打開城門逃跑。
韓世忠、張俊、劉光世進入城中，在内殿拜見高宗，高宗稱贊慰勞了很長時間，拜張俊為鎮西軍節度使、禦前右軍都統制，不久又任浙東制置使。
金兵分路深入，渡過長江進攻浙江，杜充放棄建康，韓世忠從鎮江退保江陰。
高宗到明州，張俊從越州率兵趕到。
兀..進攻臨安，高宗乘坐樓船到溫州，留下張俊在明州抵禦敵人。
高宗賜給他親筆書信說“：我沒有你，那麼誰肯率先倡議早登帝位；你沒有我，那麼将前功盡棄。
應該努力抵禦敵軍，一旦成功，我将封你王位。
”這年除夕，金軍來到城下，張俊派統制劉寶同敵交戰，宋軍稍稍後退，部将黨用、丘橫戰死，于是統制楊沂中、田師中、統領趙密都殊死搏鬥。
楊沂中舍船登岸苦戰，殿前司将領李質率領班直前來助戰，明州守将劉洪道率領州兵在旁邊射擊敵人，大敗金軍，殺死數千人。
金兵呼叫派人到營中議事，張俊派一小校前往。
金兵同他說，打算到越州請求投降，張俊拒絕了這一要求。
戒令将士不要驕傲輕敵，考慮敵人必會重來，下令堅壁清野，多用小船裝載強弩，閉關自守。
建炎四年(1130)正月初一，忽起西風，金軍乘此機會，果然又向明州發起進攻。
張俊和劉洪道坐在城樓上，派兵掩擊金軍，雙方傷亡大體相當。
金軍奔逃，溺水死于江中的不計其數，連夜拔營撤走，屯