張溫，不知何許人。跟從太祖渡江，授予千戶，積功被授予天策衛指揮佥事。跟從大軍收複中原，攻克陝西，攻下蘭州并在此鎮守。元将領擴廓偵知大将軍南還，從甘肅率步騎蜂擁而至。諸将請求固守以待增援，張溫說：“敵人從遠方而來，不知我軍虛實，乘黑夜攻擊敵人，可以挫敗其銳氣。倘若敵人不撤退，那時再固守也不晚啊。”于是整兵出戰，元兵稍後退。繼而重重圍城，張溫收兵固守，敵人進攻而不能攻下，不得不撤退。太祖稱之為奇功，提升為大都督府佥事。不久，又任命兼任陝西行省都督府佥事。
當蘭州受圍困時，元兵趁黑夜用梯登城。千戶郭佑醉倒了，其他巡城将領擊退了來犯之敵。圍解後，張溫準備殺了郭佑，天策衛知事朱有聞卻說：“當敵人進犯城時，将軍殺郭佑以示衆，這是軍法所從。敵人已經撤退，才殺他，于事無益，且落下擅殺之名。”張溫稱謝說：“不是你我是聽不到這種話的。”于是杖打郭佑後釋放。太祖聽說此事認為做得好，并獎賞朱有聞绮帛。
第二年，張溫任參将跟從傅友德征讨蜀地，功勞較大。十一年(1378)，任副将會同王弼等征讨西羌。第二年論功封為會甯侯，食祿二千石。十三年(1380)，受命統領河南軍務。十四年跟從傅友德征讨雲南。二十年秋，率部隊讨伐納哈出餘部，從北伐，都立有戰功。後因居室器用犯制，有罪，于是牽涉藍玉黨案而被殺。