劉熙古字義淳，宋州甯陵人，是唐朝左仆射劉仁軌十一代孫子。他的祖父劉實進，曾經任汝陰縣令。
熙古十五歲時，精通《易》、《詩》、《書》；十九歲時精通《春秋》、諸子、曆史。避祖父的名諱，不考進士。後唐長興年間，以《三傳》受到推薦。當時翰林學士和凝掌管貢舉，熙古獻上《春秋極論》二篇，《演例》三篇，和凝大加贊賞，召他參加進士考試，被錄取，于是把他留在門下。
後唐清泰年間，猛将孫铎因戰功授任金州防禦使，上表推薦熙古為從事。後晉天福初年，王铎移任到汝州，又征召他為随從。熙古擅長騎射，一天，有些号鳥鳥栖集在營門前槐樹上，樹高百尺，王铎厭惡号鳥鳥，用瓦石投擊樹木沒有趕走，熙古引弓一發，箭射穿号鳥背把它釘在樹上。王铎高興，命令不要去此箭，以表揚他的才能。兩年後，王铎去世，朝廷調他補任下邑令。不久任三司戶部出使巡官，兼任永興、渭橋、華州諸倉制置發運。在後漢做官，任盧氏令。後周廣順年間，改任亳州防禦推官，曆任澶州支使。秦州、鳳州被平定後，被任命為秦州觀察判官。
太祖統管宋州時，熙古任節度判官。太祖即皇帝位後，任命他為左谏議大夫，知青州。皇帝征伐惟揚時，他趕赴皇帝行營。建隆二年(961)，受诏制置晉州榷礬，增加稅收八十多萬缗錢。乾德初年(963)，升任刑部侍郎、知鳳翔府。不久，改任知秦州。州境邊界多寇患，熙古到任後，宣谕朝廷恩德和信用，取少數民族酋長的子弟為人質，邊境得以安甯。轉任兵部侍郎，改任知成都府。建隆六年，就地授任端明殿學士。遭母喪。開寶五年(972)，诏令他以本官參知政事，太祖選擇名馬、銀鞍賜給他。一年後，因腳病請求解職，授任戶部尚書退休。開寶九年，去世，終年七十四歲。追贈右仆射。
熙古兼通陰陽象緯之術，著有《續聿斯歌》一卷、《六壬卦序列》一卷，為人淳謹，雖然官位顯貴不改樸素。曆任十八個官職，在朝三十多年，從未有過錯。曾經收集古今事迹著稱《曆代紀要》五十卷。非常精通小學，著《切韻拾玉》二篇，摹刻獻給朝廷，诏令交付國子監頒行。兒子名蒙正、蒙叟。