。
紹興四年(1134)十月，金朝和劉豫分兵數道入侵。
開始消息傳來，舉朝震驚恐慌，有人請求高宗逃避到其他地方。
張俊對趙鼎說：“準備逃避到哪裡去呢？隻有向前進一步，才能免除禍難。
應當集結天下的兵力守衛平江，慢慢圖謀對付敵人的計策。
”趙鼎說“：你說逃避不是良策，是對的；但用天下所有的兵力守衛一州，又不對。
你隻管堅持前面議論就足夠了。
”于是任命張俊為兩浙西路、江南東路宣撫使，屯駐建康。
不久改任淮西宣撫使。
瀕臨長江同敵人相持超過一個月，敵人終于沒能南進。
張俊派張宗顔悄悄渡江到六合，出敵背後。
敵軍準備退走，張俊又派王進說：“敵軍既然已經無心留下，必然徑直渡過淮河北去，應立即在其沒有渡河時攻擊它。
”王進前往，敵軍果然渡河，于是在淮河向敵人發起進攻，大敗敵軍，俘虜敵将程師回、張延壽獻給朝廷。
紹興五年(1135)，劉麟率兵入寇，張俊和楊沂中合兵在泗州抵禦。
紹興六年(1136)，張俊改為崇信、奉甯軍節度使。
劉麟率兵十餘萬進犯濠、壽州，朝廷诏令以淮西隸屬張俊，楊存中也聽從他指揮，同張俊合兵抵禦敵人。
張俊分别派遣楊存中和張宗顔、王玮、田師中等人，從定遠軍到趙家坊，遇到劉猊左右軍，将其擊退。
張俊率領大軍擊鼓前進，到達李家灣同劉猊大部隊遭遇，雙方交戰，劉猊軍全軍覆沒，投降的達到一萬多人，劉猊隻身逃脫。
朝廷拜張俊為少保，加鎮洮、崇信、奉甯軍節度使。
高宗說：“你的議論持平慎重，深刻了解敵情，統率精銳部隊數萬人，報效國家像這樣，我還有什麼憂慮。
”又說“：群臣說我對待你特别優厚，你應該體念我的眷顧關懷，更加努力報效。
”
紹興七年(1137)，張俊改任淮南西路宣撫使，把宣撫司設在盱眙。
張俊和韓世忠入朝觐見高宗，計議轉移防地。
秦桧上奏“：臣曾經說韓世忠、張俊，陛下依賴這兩位大将，譬如兩隻猛虎，本來應當各自守衛國家門戶，使敵人不敢逼近。
”高宗說：“他們正如左右兩手，怎能一手不盡力呢？”命令張俊從盱眙移屯廬州。
紹興八年(1138)，金朝請求休戰，宋朝答應了。
高宗賜張俊為“安民靖難功臣”，拜官少傅。
紹興九年(1139)冬，金朝又毀棄盟約，再次攻破河南，圖謀攻取順昌府，命令張俊率兵策應劉钅奇。
張俊督促軍隊渡過長江，金軍退走。
不久金朝三路都統從東、南兩京分路前來侵犯，進抵亳州北邊渡過黃河，張俊派宿、亳各軍出擊，全部收複衛真、鹿邑等地，回師。
紹興十年(1140)，郦瓊在亳州，張俊率大軍到達城父，都統制王德攻占符離，乘勝直趨亳州同張俊會合。
張俊率兵入城，金軍棄城逃遁，父老百姓排列香