耶律古，字涅剌昆，初名霞馬葛。太祖為于越時，他曾經随從在山西一帶攻城略地。适逢李克用在雲州，耶律古侍衛，李克用驚詫地說：“這孩子依骨相看來很特别，不應該讓他侍從左右。”因此太祖十分忌憚他，當時正西征，諸弟之亂發生，聽說變亂發生，太祖問耶律古參予與否，回答說沒有。太祖高興地說：“我沒什麼擔心的了！”趕緊召見耶律古前來商議。耶律古陳述了消滅他們的計策，後來太祖都按他所說去做了，因此賞賜十分豐厚。
神冊末年，南征，讓耶律古輔佐右皮室詳穩耶律老古，與唐軍交戰于雲碧店。老古中了流矢，傷勢很重，太祖懷疑是耶律古暗裡傷害他。耶律古知道了皇上的想法，跪着說：“陛下懷疑我以位居老古手下為恥嗎？現在老古還活着，請您派使者去問他。”太祖使人問老古，回答說：“我對于耶律古沒什麼可懷疑的。”皇上心中這才輕松了下來。老古去世，于是任耶律古為右皮室詳穩。
耶律古去世之後，太祖對左右說：“耶律古死了，好比高大的松樹自行倒地，并不是我把它砍倒的。”