張以甯，字志道，古田人。父名一清，元代為福建、江西行省參知政事。以甯八歲時，有人指控其伯父，縣衙将其伯父逮捕下獄，以甯到縣衙去講理。知縣認為此孩童非凡，命他賦《琴堂詩》，他秉筆立就，伯父得以釋放，以甯由此聞名。元泰定年間，他以通《春秋》而舉進士。由黃岩判官而晉升為六合府尹。因某事犯法而免官，滞留江、淮十年之久。元順帝征他為國子助教，官至翰林侍讀學士、知制诰。在朝中，一些有聲望的學者如虞集、歐陽玄、揭亻奚斯、黃氵晉等，相繼去世，以甯有才華，博學強記，聞名于時，人稱“小張學士”。
明軍占據元朝京都北京，以甯與危素都被召到明都南京，對皇帝的詢問都做了滿意的回答，授侍講學士，特别受到寵遇。太祖曾登鐘山，以甯與朱升、秦裕伯等扈從擁翠亭，帝給紙筆命他們賦詩。
洪武二年(1369)秋，以甯奉旨出使安南，封其主陳日火奎為國王。臨行時，太祖題詩一首送行。他剛入安南境，陳日火奎死。安南人請求将皇帝诏書授其嫡長子，以甯不肯。在洱江留居三天，告谕王子去向朝廷告哀，請求承襲王爵。以甯得朝廷之命，等待後派的使者林唐臣到後再入安南境辦事。他在安南教王子服喪三年，令安南人仿效中國行叩拜禮。太祖聞知，嘉獎以甯，賜诏書，把他比作陸賈、馬援，又賜禦制詩八章。後逝于回國途中，诏令地方官府送靈柩歸其故鄉，沿途州縣都要祭奠。
以甯為人潔淨無瑕，不營财産，奉使安南往返，除衣被行裝外，别無他物。他本是以《春秋》中進士，故所學尤專于《春秋》，受益頗多。撰有《胡傳辨疑》及《春王正月考》。元朝故官來京人士中，危素與張以甯的名聲最大，素長于文，以甯長于經。素所撰宋、元史稿都已失傳，以甯關于《春秋》的著作流行于世。