高琼，家族世代为燕州人。祖父高霸，父亲高乾。五代时，李景割据江南，暗中勾结契丹，每年派遣一使者单独往返。高霸奉契丹之命，带着高乾随同出使李景。当到达江左时，间谍侦查到有北方使者与中国为敌，将兴起战争，于是杀了高霸，而将高乾留居濠州，声称高霸是被开封人所杀。高乾在濠州生了三个儿子。因为江左地方贫穷困苦，不久他带着全族归降朝廷，朝廷将亳州蒙城的一块田地赐给他，因此便成为当地土著。
高琼少时凶猛无赖，沦为强盗，事情败露后，将在午门斩头。时值夏雨滂沱，看守稍有松懈，他便掣断锁钉逃遁。后跟随王审琦，宋太宗任京兆尹时，得知他勇猛有将才，便召来安置在帐下做贴身侍卫。太宗曾陪侍宋太祖皇帝在宫中宴饮，大醉，至退席时，宋太祖送到苑门。当时高琼与戴兴、王超、李斌、桑赞都随从太宗，高琼左手抓住马革勺，右手执马镫，太宗才能乘马。太祖见了高琼等，颇赏识他们的壮猛，因此赐给他控鹤官的衣带及器物布帛，且勉励他尽心侍奉太宗。
太宗即位，升为御龙直指挥使。随太宗征讨太原时，太宗命他带领两班弓箭手，合围攻城。讨幽蓟时，太宗令车队人马打道还京，留高琼与军中吹鼓手殿后，当时六班扈从都没跟上，只有高琼最先率所部跟上，太宗很高兴，特别慰劳他。太平兴国四年(979)，升天武都指挥使、领西州刺史。第二年，改任神卫右厢都指挥使，兼任本州团练使。皇帝乘车巡阅大名的军队，命高琼与日骑右厢都指挥使朱守节都任京城内巡检。因犯错误，降级出任许州马步军都指挥使。
当时许州的数十个亡命骑兵，在知州臧丙出游城郊时，阴谋威逼劫迫导从举行叛乱。高琼获悉此情后即告诉臧丙，劝他还城，并亲自率领随从将士数十人，带着弓箭单骑追捕叛兵，至榆林村，才追上他们。叛贼进入村后民舍，登在墙头抗拒。外号青脚狼的叛贼首领正搭弩将射高琼，琼射了一箭便将他击毙，于是将他们全部捕送到许州城。臧丙上奏此事。正好朝廷将要北伐，便召高琼回京，授任马步军都军头，兼任蓟州刺史、楼船战棹都指挥使，率船千艘赶赴雄州。后又建筑易州城。班师回京后，任天武右厢都指挥使，兼任本州团练使。
端拱初年，升任左厢都指挥使，改兼富州团练使。这年秋季，出任单州防御使，后改贝州部署。当初出任地方官时，高琼与范廷召、王超、孔守正等一同受命调出京师。数月后，范廷召等都复任军职，高琼悒悒不乐。当时王承衍镇守贝丘，公主常常入宫，颇知皇上对高琼很厚爱，王承衍因此每每宽慰他。端拱二年(989)，召还京师。先例，廉察以上的官吏入朝，才有茶药赏赐，到这一次却特例赏赐高琼。三月后，升朔、易二州帅臣，诏授高琼任侍卫步军都指挥使，领归义军节度，而范廷召等辈才开始加授观察使，不能跟高琼相比。后又出任并州马步军都部署。当时潘美也在太原，旧制规定，节度使兼任军职者位居上，而高琼却因为潘美是老臣，特上表请让自己位居其下，被允许。当时守兵中有人因为仓廪粮米陈腐而谣言惑众，高琼知道后，一日出巡各营，士兵正在聚餐，他因此取饭自吃，并对众人说：“今边线无警，你们坐在这里饱食酒肉，应该知福。”众人的议论于是息灭。改任镇州都部署。至道年间(995～997)，就地改任保大军节度，仍旧带兵。
宋真宗即位，高琼加官彰信军节度，充太宗山陵部署，后又复任并代都部署。咸平(998～1003)时，契丹进犯边塞，契丹王母的车帐到达狼山大夏。皇上亲自巡视河朔，派杨允恭驰往边关，令高琼率所部出土门，与石保吉在镇、定二州会合。后来傅潜因犯逗留不前的罪，便令高琼代替他。撤兵后，复还本职。转运使上报高琼的功绩，皇帝下诏褒奖。
咸平三年(1000)，轮换还京，因手伤不能持笏，特诏许执木棒入见，并授任殿前都指挥使。先前，范廷召、桑赞所带边防士兵临敌后退，谏官请求将他们治罪。皇帝以此事征求高琼，琼答道：“兵违将令，依法当杀。但陛下去年已免了他们的罪，今天怎能又去治罪呢？而且又正要派兵屯守各路，在这种时候改变原来的决定，臣恐怕人心会疑惑畏惧。”于是作罢。
景德年间(1004～1007)，皇帝乘车北巡。当时前军已与敌人接战，皇帝要亲临战阵，有人劝皇上南回，高琼则说：“敌军已疲惫，陛下应亲往前线，以督勉将士，杀敌成功。”皇上很高兴，当天亲临澶渊。第二年，因为停战，精简兵卒，凡守边十年以上的出补军校之职，年老的退为本班剩员。高琼上奏说“：此非激励将士之道，宿卫边疆，岂不劳苦吗？”从此，凡戍边八年的也可补军校了。
马军都校葛霸代理步军司，当时正因病告退，皇上令高琼兼领此二司。高琼从容地对皇上说：“臣已衰老，倘又有犬马之疾，则又必须一将来总领此二职。臣在前一朝任职时，朝中侍卫都虞候以上常多至十员，职位相当，容易改任，而且使军队熟悉他们的名望，到时若边关有急，也可以选用。”皇上深以为然。不久，以久病在身请求解除兵权，于是改任检校太尉、忠武军节度。景德三年(1006)冬，高琼病危，皇上想要亲临慰问，因宰相劝阻，才止。去世时，年七十二岁。赠侍中。
高琼不识字，他精通军政，但颇为独裁，很少与副将商议。善于教养儿子。他的儿子有：继勋、继宣、继忠、继密、继和、继隆、继元。其中，继勋、继宣最知名。