李顯忠等人還師。
正好金兵元帥纥石烈志甯率兵到宿州，與顯忠作戰。
連日宋軍稍微不利，忽然諜報敵兵大至，顯忠連夜還師。
張浚上疏請罪，有旨降任特進，改任江、淮宣撫使。
宿州部隊回師，士大夫主和者都議論張浚的錯誤，孝宗又賜給張浚手書說：“現在的邊事倚重你，你不要害怕人言而猶豫。
前日舉事之初，我與你共任之，今日也須與你完成之。
”張浚于是以魏勝守海州，陳敏守泗州，戚方守濠州，郭振守六合。
修理增擴高郵、巢縣兩城，修治關山滁州以扼守敵人進攻，在淮陰聚結水軍、在壽春聚結騎兵，大大整頓兩淮守備。
孝宗又召張木式奏事，張浚附奏說：“自古有好的皇帝，與心腹之臣相與協謀同心，以完成大功業。
現在我因為孤縱，動辄受到牽制，陛下怎能任用。
”因而請求辭職。
孝宗看罷奏章，對張木式說：“我對待魏公之心有增無減，不被浮議所迷惑。
”皇帝對待張浚非常恩寵，對近臣談話，一定稱魏公，從不直稱其名。
每次張浚派使者來，一定詢問張浚飲食多寡，肥瘦如何。
不久诏令恢複張浚都督的稱号。
金兵元帥仆散忠義寄信給三省、樞密院，索求四郡及歲币，不然，将在農閑時進兵。
張浚說：“金人強盛就來，弱小就止，不在和與不和。
”當時湯思退為右相。
思退，是秦桧一黨，急于求和，于是派遣盧仲賢持書出使金營。
張浚認為仲賢小人多妄，不可信用。
後來仲賢果然許可金國四郡有辱使命。
朝廷又任命王之望為通問使，龍大淵為副使，張浚争辯不成功。
不久，召張浚入宮晉見，又力陳和議之失。
孝宗為此停發誓書，留之望、大淵待命，而令通書官胡日方、楊由義前往，告訴金人四郡不能割；如果金人想得此四郡，應當追還使者，罷和議。
授任張浚尚書右仆射、同中書門下平章事兼樞密使，依然都督軍事；思退任左仆射。
胡日方等人到宿州，金人械系威脅他們，胡日方等人不屈，後來金人以禮送歸他們。
孝宗告訴張浚說：“和議不成，是天意，從此政事歸一。
”二年，商議皇上到建康，诏令之望等人回來。
思退聽說後非常驚恐，假裝請求去職，而暗中與其同黨謀劃陷害張浚之計。
不久诏令張浚巡視江、淮。
當時張浚招來的山東、淮北忠義之士，以充實建康、鎮江兩軍，共一萬二千多人，萬弩營所招淮南壯士及江西群盜又有萬餘人，由陳敏統率，駐守泗州。
凡是要害之地，都築起城堡；可以因水成險處，都積水為潭；增設江、淮戰船，各軍弓箭兵器完備。
當時金人駐紮重兵于河南，虛張聲勢威脅和議，有克日決戰之語。
到聽說張浚來了，急忙撤兵逃歸。
淮河以北來歸降者日夜不絕，山東豪傑，都願意接受指揮。
張浚認為蕭琦是契丹望族，沉勇有謀，打算讓他率領全部契丹降衆，而且以檄文傳谕契丹，約為應援，金人越是害怕。
思退于是命王之望極力诋毀守備，以為不可依恃；命尹穑指責、罷免督府參議官馮方；又責論張浚浪費國家資财，奏請留任張深守泗州而不同意趙廓取代他是抗拒朝命。
張浚也請求解去都督之職，诏令聽從他的請求。
左司谏陳良翰、侍禦史周操認為張浚忠誠勤苦，人望所歸，不應當讓他離開朝廷。
張浚留在平江，共八次上章請求退休，授任少師，保信軍節度、判福州。
張浚辭謝，改任醴泉觀使。
朝廷于是決定棄地求和。
張浚離職後，還上疏論斥尹穑奸邪，必誤國事，并且勸皇上務學親賢。
有人勸張浚不要再評論時事，張浚說：“君臣之義，天地之間無法逃避。
我身受兩朝厚恩，久擔重任，現在雖然離開朝廷，還希望皇上心裡感悟，如果有些見解，怎忍不說。
皇上如果重新起用，我會即日就道，不敢因老病推辭。
像你們說的那樣，是什麼誠心呢？”聽者聳然。
走到餘幹，生了病，手寫書信交付兩個兒子說：“我曾任相國，不能恢複中原，雪祖宗之恥，死後，不要把我埋葬在祖宗墓旁，把我埋葬在衡山下就可以了。
”訃告傳到，孝宗悲悼，停止上朝，追贈太保，後加贈太師，谥号“忠獻”。
張浚年輕時有大志，任熙河幕官時，遍行邊壘，觀覽山川形勢，經常與以往的戍卒守将握手對飲，詢問祖宗以來守衛邊疆之法及軍陣戰略事宜。
所以一旦從疏遠地位提拔起來，擔當樞密之任，能全部知道邊事本末。
在京城中，親眼看見二帝北行，皇族被捕系，百姓塗炭，發誓不與敵人共存，所以終身不主張和議。
每次商議定都大計，認為東南形勢，莫如建康，人主居之，可以北望中原，常懷憤惕之意。
至于錢塘，偏處一隅，易于安逸，不足以号令北方。
與趙鼎共同執政，引薦很多人，從臣朝列，都是當時名望大臣，人們号稱“小元..”。
所推薦的虞允文、汪應辰、王十朋、劉珙等都是名臣；在軍隊中提拔吳..、吳瞞，認為韓世忠忠誠勇敢，可以托付大事，一見劉钅奇就認為他是奇才，交付他重任，終于都成為名将，立有大功，一時都稱贊張浚為知人。
張浚侍奉母親以孝出名。
對于《周易》鑽研得很精深，著有《易解》及《雜說》十卷，《書》、《詩》、《禮》、《春秋》也都有注解，文集有十卷，奏議二十卷。
有兒子二人：張木式、張木勻。
張木式有傳記。