韓知古，薊州玉田人。善于謀劃，富有見識和度量。太祖平定薊州時，知古六歲，為淳欽皇後兄長欲穩所得。後淳欽皇後出嫁，知古為随從，沒有得到太祖接見和慰問。過了很久，自恃胸中所學，怏怏不樂，覺得很不得志，便隻身出逃，為人做雇工，以保證自己的錢财用度。
其子韓匡嗣得以親近太祖，于是找個機會說起他。太祖召見，跟他交談，覺得他是賢才，讓他參與謀劃大事。神冊初年，遙授彰武軍節度使。久而久之，得到更深信任，總管漢兒司事，同時主管各國禮儀。當時禮儀制度粗略，韓知古援引舊典，參酌國俗，與漢禮儀雜糅混用之，使得國人易于了解和采行。
不久，拜為左仆射，與康默記統率漢軍征讨渤海有功，遷為中書令。天顯年間去世，為佐命功臣之一。子韓匡嗣。