張砺，磁州人，早先在唐擔任掌書記，遷任翰林學士。适逢石敬瑭起兵，唐主任命張砺為招讨判官，随趙德鈞到河東援救張敬達。及至敬達兵敗，張砺到了契丹。
後來太宗見張砺剛強正直，頗有文采，提升為翰林學士。張砺遇事總是有言必發，無所回避，皇上更加重用他。不久，計劃逃跑回故國，為騎兵追獲。皇上責備他說“：你為什麼要逃走？”張砺回答說“：我不習慣風俗、飲食、居處，心裡總是郁郁不樂，因此想逃走。”皇上回頭對通事高彥英說“：我曾經告誡你要好好待他，為什麼還是讓他因不得其所而逃走？張砺要是走了，你能再找回一個張砺來嗎？”于是杖擊彥英而向張砺緻歉。
會同初年，升任翰林承旨，兼吏部尚書，随從太宗讨伐晉國。進入汴京，諸将蕭翰、耶律郎五、麻答等人肆意殺人搶掠，張砺上奏說：“現在大遼剛剛得到中國，應該任用中國人治理他們，不能專用我國人及左右親信。倘使政策和法令出現差錯，那麼人心就會不服，即使暫時得到中原也還是要失去的。”皇上不聽。改任張砺為右仆射，兼門下侍郎、平章事。
不久，皇上北歸，到達栾城便崩逝了。當時張砺在恒州，蕭翰與麻答派兵包圍了其府第。張砺正卧病于床，勉力支撐着出門見他們。蕭翰數落他說“：你為什麼要在先帝面前說契丹國人不可以做節度使？我以國舅之親，出兵征讨有功，先帝留我守衛汴京，任命我為宣武軍節度使，獨有你以為不行。又誣陷我與解裡喜歡搶掠别人的财物子女。今天我一定要殺了你！”敦促手下人将他拘鎖起來。張砺大聲抗言道“：此乃事關國家大局，維系國家安危之所在；所以我直言不諱。你要殺就殺，何必要鎖起來呢？”麻答覺得張砺乃是重臣，不可擅自濫殺，便出面相救制止。當晚，張砺憤恨而死。