高瓊，家族世代為燕州人。
祖父高霸，父親高乾。
五代時，李景割據江南，暗中勾結契丹，每年派遣一使者單獨往返。
高霸奉契丹之命，帶着高乾随同出使李景。
當到達江左時，間諜偵查到有北方使者與中國為敵，将興起戰争，于是殺了高霸，而将高乾留居濠州，聲稱高霸是被開封人所殺。
高乾在濠州生了三個兒子。
因為江左地方貧窮困苦，不久他帶着全族歸降朝廷，朝廷将亳州蒙城的一塊田地賜給他，因此便成為當地土著。
高瓊少時兇猛無賴，淪為強盜，事情敗露後，将在午門斬頭。
時值夏雨滂沱，看守稍有松懈，他便掣斷鎖釘逃遁。
後跟随王審琦，宋太宗任京兆尹時，得知他勇猛有将才，便召來安置在帳下做貼身侍衛。
太宗曾陪侍宋太祖皇帝在宮中宴飲，大醉，至退席時，宋太祖送到苑門。
當時高瓊與戴興、王超、李斌、桑贊都随從太宗，高瓊左手抓住馬革勺，右手執馬镫，太宗才能乘馬。
太祖見了高瓊等，頗賞識他們的壯猛，因此賜給他控鶴官的衣帶及器物布帛，且勉勵他盡心侍奉太宗。
太宗即位，升為禦龍直指揮使。
随太宗征讨太原時，太宗命他帶領兩班弓箭手，合圍攻城。
讨幽薊時，太宗令車隊人馬打道還京，留高瓊與軍中吹鼓手殿後，當時六班扈從都沒跟上，隻有高瓊最先率所部跟上，太宗很高興，特别慰勞他。
太平興國四年(979)，升天武都指揮使、領西州刺史。
第二年，改任神衛右廂都指揮使，兼任本州團練使。
皇帝乘車巡閱大名的軍隊，命高瓊與日騎右廂都指揮使朱守節都任京城内巡檢。
因犯錯誤，降級出任許州馬步軍都指揮使。
當時許州的數十個亡命騎兵，在知州臧丙出遊城郊時，陰謀威逼劫迫導從舉行叛亂。
高瓊獲悉此情後即告訴臧丙，勸他還城，并親自率領随從将士數十人，帶着弓箭單騎追捕叛兵，至榆林