太祖親自下诏，叙說劉基征伐之功，召他赴京，賞賜甚厚，追贈劉基的祖父、父親為永嘉郡公，并多次要給劉基進爵，劉基都固辭不受。
當初，太祖因事要責罰丞相李善長，劉基勸說道“：他雖有過失，但功勞很大，威望頗高，能調和諸将。
”太祖說：“他三番兩次想要加害于你，你還設身處地為他着想？我想改任你為丞相。
”劉基叩首說道“：這怎麼行呢？更換丞相如同更換梁柱，必須用粗壯結實的大木，如用細木，房屋就會立即倒坍。
”後來，李善長辭官歸居，太祖想任命楊憲為丞相，楊憲平日待劉基很好，可劉基仍極力反對，說：“楊憲具備當丞相的才能，卻沒有做丞相的氣量。
為相之人，須保持像水一樣平靜的心情，将義理作為權衡事情的标準，而不能攙雜自己的主觀意見，楊憲就做不到。
”太祖又問汪廣洋如何，劉基回答：“他的氣量比楊憲更狹窄。
”太祖接着問胡惟庸，劉基又回答道：“丞相好比駕車的馬，我擔心他會将馬車弄翻。
”太祖于是說道“：我的丞相，确實隻有先生你最合适了。
”劉基謝絕說：“我太疾惡如仇了，又不耐煩處理繁雜事務，如果勉強承擔這一重任，恐怕要辜負皇上委托。
天下何患無才，隻要皇上留心物色就是了。
目前這幾個人确實不适合擔任丞相之職。
”後來，楊憲、汪廣洋、胡惟庸都因事獲罪。
三年(1370)，太祖授劉基為弘文館學士，十一月，大封功臣，又授劉基為開國翊運守正文臣、資善大夫、上護軍，封誠意伯，食祿二百四十石。
第二年，賜劉基還歸家鄉。
太祖經常寫信給劉基，詢問天象，劉基都非常詳細地逐條回答，然後将其草稿燒掉。
劉基大緻說，霜雪之後，必有陽春，現國威已立，應當稍微采用寬大政策來治理天下。
劉基輔佐太祖平定天下，料事如神。
他性情剛烈，疾惡如仇，經常與人發生沖突。
直到現在他才隐居山中，隻是飲酒下棋，從不提起自己的功勞。
縣令求見，被劉基拒絕，于是便穿着便服，裝成鄉野之人去見劉基，劉基當時正在洗腳，便讓堂侄将他引入茅舍，以黃米飯招待。
縣令這時才告訴劉基“：我是青田知縣啊。
”劉基大驚，馬上起身稱民，然後謝罪離去，終不相見。
劉基的行蹤如此秘密，最終還是被胡惟庸中傷陷害。
最初，劉基說瓯、括之間有一塊空地叫談洋，南抵閩界，是鹽盜的巢穴，方氏便是由此作亂的，故請設巡檢司守衛，奸