民為亂便不那麼方便了。
時逢茗洋逃兵反叛，官吏都匿而不報，劉基便令長子劉琏将此事上奏，但未先通報中書省。
胡惟庸當時正以左丞相的身份主管中書省，對以前與劉基的過節懷恨在心，于是便派手下官員攻擊劉基，說談洋這個地方有帝王之氣，劉基想将它作為自己的墓地，因為當地百姓不答應，劉基便請求設巡檢司将百姓趕走。
太祖雖然沒有加罪于劉基，但頗為這些言論所打動，因而剝奪了劉基的俸祿。
劉基心中害怕，入朝謝罪，然後呆在京城，不敢返鄉。
不久，胡惟庸當了丞相，劉基悲歎道“：若是我的話不應驗的話，那便是蒼生之福了。
”遂因憂憤交加而發病。
洪武八年(1375)，太祖親自撰文賜給劉基，并派專人護送劉基返鄉。
到家後，病情加重，便将《天文書》授給長子劉琏，并說：“趕快送給皇上，千萬不要讓後人學習此書。
”又對次子劉王景說：“為政之事，要寬猛交替。
當今之務在于修養德行，減省刑罰，才能祈求上天保佑國運長久。
那些戰略要害之地，應當與京城遙相呼應，連成一體。
我本想上奏一份遺表，但因胡惟庸當朝掌權，這麼做毫無用處。
有朝一日胡惟庸下台後，皇上必然要想起我，如果他向你問什麼的話，便将我所說的密奏皇上。
”回家僅住了一個月，劉基便去世了，終年六十五歲。
劉基在京城生病時，胡惟庸曾派醫生來給他治病，劉基吃了藥後，腹中便出現了一個像拳頭大的石頭。
後來中丞塗節首先揭發胡惟庸謀反一案，并且說是胡惟庸下毒将劉基害死的。
劉基滿臉虬髯，相貌堂堂，慷慨而有大節，每當談論天下大事，便義形于色。
太祖知道他非常忠誠，對他委以心腹之任。
每次召見劉基，都要避開他人進入内室，單獨與劉基長時間密談。
劉基也自認為自己得不世之遇，所以在太祖面前知無不言。
每到緊急危難關頭，劉基總是勇氣奮發，計策立定，人莫能測，閑暇之時，便敷陳為王之道，而太祖每次都洗耳恭聽，常常稱劉基為老先生而不叫他的名字，并說：“你就是我的張子房啊。
”又說“：老先生多次以孔子之言來勸導我。
”所以，太祖與劉基的帳中密語，世人所知不詳，而世間所傳為神奇的，大多隻是一些陰陽風水之說，并非劉基的至理名言。
劉基的文章氣勢浩大而奇妙，與宋濂同為一代宗師，他的著作有《覆瓿集》、《犁眉公集》流傳于世。
劉基有二子：劉琏、劉王景。