耶律休哥少时即有公辅之器。辽穆宗时，乌古、室韦二部背叛辽国，耶律休哥随北府宰相肖斡讨乌古、室韦，叛平兵还。公元968年（辽穆宗应历末年），升职为惕隐。

公元979年（景宗乾亨元年），宋军北征伐辽，南京（今北京）被围。景宗命耶律休哥率五院军往救南京，抵御宋军。于是休哥率军至高梁河，遇宋太宗亲率的宋大军。耶律休哥与耶律斜轸兵分两路击宋军，宋军大败，死伤甚众，辽军乘胜追敌三十余里，斩首宋兵万余人。耶律休哥也身负三处创伤。第二天早晨，宋太宗赵光义南逃而去，耶律休哥因伤创不能骑马，坐轻车率军士追至涿州（今河北涿县），无法追上而还。高梁河大捷，辽景宗论功行赏，耶律休哥以战功受知于辽景宗，从此执掌辽国兵权。

此年冬，景宗命韩匡嗣、耶律沙伐宋以报上次宋兵围燕之仇。耶律休哥率本部兵随韩匡嗣与宋兵战于满城。第二日将要复战，宋人请降。韩匡嗣信以为真。休哥说：“彼军众多而齐整，且有锐气，必不肯就此屈降，此乃诱我之计，应

《辽史·列传十三》

耶律昭：“古之名将，安边立功，在德不在众，故谢玄以八千破苻坚百万，休哥以五队败曹彬十万，良由恩结士心，得其死力也。”

脱脱《辽史》：“宋乘下太原之锐，以师围燕，继遣曹彬、杨业等分道来伐。是两役也，辽亦岌岌乎殆哉！休哥奋击于高梁，敌兵奔溃，再战歧沟关，旋复故地。宋自是不复深入，社稷固而边境宁，虽配古名将，无愧矣。”

王世贞《王弇州崇论》：“羊叔子世所谓仁人也、然吾读辽史、以为耶律休哥之填燕、胜叔子远。叔子之填襄阳、未尝一日而忘取吴。其所以勉而为仁者。老子之所谓将欲取之、必固与之也。休哥悍虏也、虏性贪而好杀、以杀为仁、以战克为德、而休哥独不然拥数十万之众。席骤胜之威。以压宋。而宋之诸将无一能角材者。顾独曰保境息民而已。使其下皆化之。而不轻为卤掠呜呼仁哉。李道生曰先生表休哥之仁以愧中国之嗜杀者。”

褚人获《坚瓠集》：“辽史耶律休哥官拜于越，数败宋师。宋人不敢北向。时宋人欲止儿啼。怖曰干越至矣。小儿噤不发

耶律休哥出身契丹皇族，其祖父耶律释鲁是辽太祖耶律阿保机的三伯父。耶律释鲁因为引导契丹人民“种树桑麻”而享有盛名，受封为隋国王。耶律休哥之父耶律绾思，曾为南院夷离堇，总管军马。

2002年8月，考古工作者在辽宁省阜新市境内发现了一个辽代皇族古墓群，在其中一座古墓中发现了一块墓志铭，上面有篆文“故于越宋国王墓志铭”九个字的墓志铭，这个已注明被葬者身份、地位的墓志铭使工作人员立即意识到，此墓有可能是辽代著名的政治家、军事家耶律休哥或其子孙的墓地。阜新一带还曾先后发现过耶律休哥的儿媳晋国夫人和耶律休哥孙子耶律奴的墓葬，专家据此推测，阜新一带是耶律休哥家族墓葬集中的地区。