随同完颜阿骨打一起出来的还有他毕生的对手耶律大石，
辽道宗大安三年，耶律大石出生于上京，他是辽太祖耶律阿保机八世孙，从小好学，善于骑射。兼通汉文、契丹文。天庆五年，耶律大石中进士，入翰林院，任翰林承旨，他是《辽史》中记载的辽朝唯一一个契丹进士。后历任泰、祥二州刺史，辽兴军节度使。
1122年，金兵大举南侵，攻克中京，天祚帝不敢留守，西逃入云中。时大石等留守南京，遭到金、宋夹攻。为了安定人心，坚持抵抗，大石拥立耶律淳即位，称天锡皇帝，后世称北辽。耶律淳任命大石为军事统帅，负责守卫。
大石分析当时形势，决定向金称臣，同北宋结好。但是，北宋君臣认为这是夺回燕云十六州的好机会，出兵二十万攻打南京。大石率军迎战，败宋军于白沟河，不久耶律淳病死，其妻萧德妃摄政，宋兵复来攻，奇袭南京城，在巷战中辽军再次取胜，使得兵心复振。
1123年四月，大石率军在奉圣州龙门壁附近抵抗失败被俘，逼迫为金兵带路偷袭天祚帝的青冢大营。后从金营逃脱，九月投奔天祚帝。天祚帝并不能原谅大石擅自另立皇帝的作为，也不能接受大石“养兵待时”的意见，这使得大石深自疑虑。1124年夏，在天祚帝准备出兵与金决战时，大石杀死了萧乙薛、坡里括二将，率领亲兵200人逃离。
1134年，东喀喇汗国阿赫马德汗死，其子易卜拉欣汗不得人心，造成康里人和葛逻禄人叛乱，被迫邀请西辽出兵协助平乱。大石很快平定了康里和葛逻禄，并把东喀喇汗国降为附庸，割取其北疆一带为西辽直辖领地。当年，大石定都于八剌沙衮，改年号康国元年。
1141年西辽的控制区域东至高昌，西抵里海，成为了中亚的霸主。1143年，耶律大石病逝，享年五十七岁，庙号“德宗”。
关于耶律大石本人的宗教信仰，不同宗教的信徒有着不同的说法，《世界征服者史》的作者志费尼认为他“秘密成为了一位穆斯林”，另一位历史学家伊本·阿西尔又说他是摩尼教徒，甚至还有景教徒称颂他是传说中的祭司王约翰。其原因也许是因为他表现出了极度的宽容性。
在统治区域内，他没有强行推进任何信仰，并且对不同的宗教一视同仁。伊斯兰教、佛教、景教、摩尼教、萨满教等宗教都在西辽赢得了不少信徒。对于其属国和附庸部落，大石要求他们按时缴纳贡金，并派遣一名“沙黑纳”监管，他们的头人要挂银牌表示臣服。其余方面一切依照原有模式治理。另外，他也采取了辽朝南北面官制，对南面的农耕居民和北部的游牧居民按其习俗分别治理。每户交一第纳尔税收。
由于他的这些宽容措施，西辽尽得民心，很快发展成为中亚地区首屈一指的强国，连成吉思汗的重要辅臣耶律楚材也盛赞其“颇尚文教，西域人至今思之”。
其军事才能历来为人称道，他坚持“养兵待时”，虽然屡遭失败，但均能善于把握时机，随败随起。先率一城哀兵破十万宋军于燕京，后领数百铁骑开万里国土于中亚，将耶律氏的国祚又绵延了近百年。
安定后方之后，大石决定东征金朝，希望复国。1134年夏，大石指派手下大将萧斡里剌率军七万出征，因牛马多死被迫撤回。大石也彻底将扩张重心转向西方伊斯兰世界。
1137年，大石率军侵入西黑汗国，在忽毡击溃了敌军主力。西喀喇汗国遂向其宗主国塞尔柱突厥帝国求援。塞尔柱突厥苏丹桑伽号召伊斯兰世界对西辽的异教徒发动圣战，集合了呼罗珊、加兹尼等国的士兵约十余万，于1141年7月，与大石在撒马儿罕附近的卡特万决战。决战结果，穆斯林联军惨败，桑迦仅以身免。大石率军一直追击至起儿漫，金兵日益逼近，天祚帝流亡，大石与众大臣立秦晋王耶律淳为帝。淳死，立其妻萧德妃为太后，以守卫燕京。及至金兵到来，萧德妃回到天祚处，天祚恼怒，诛杀德妃并责备大石说“：我还没死，你怎么敢立耶律淳？”大石回答说：“陛下拥有全国的力量，不能去阻挡一下敌人，抛弃了国家社稷远远逃遁，致使百姓生活在水深火热之中。即使立十个耶律淳，都是太祖的子孙，岂不强似去乞求别人来宽宥性命？”皇上无言以对，赐给酒食，赦免其罪。
大石心中不能自安，就杀死萧乙薛、坡里括，自立为王，率领铁骑二百乘夜逃遁。向北走了三天，过黑水，见到白达达详稳床古儿。床古儿进献马匹四百只、驼二十只、羊若干。向西行至可敦城，驻军于北庭都护府，会集威武、崇德、会蕃、新、大林、紫河、驼等七州以及大黄室韦、敌剌、王纪剌、茶赤剌、也喜、鼻古德、尼剌、达剌乖、达密里、密儿纪、合主、乌古里、阻卜、普速完、唐古、忽母思、奚的、纠而毕十八部王之众，晓谕他们说：“我祖宗历经艰难创下大业，经历了九代二百年。
金人作为臣属，逼迫我国家，残杀我黎民，屠杀毁灭我城邑，使我们的天祚皇帝陛下逃难于外，想到这些我日夜都痛心疾首。我现在仗义西行，想借助众蕃部的力量，翦灭我们的仇敌，恢复我国的领土疆域。你们众人之中也有顾念痛惜我们国家，忧虑我们的社稷，思量共同救出君父，济助生民于苦难之中的人吗？”于是得到精兵一万余人，设置官吏，编列排甲，准备仪仗器具。
1130年二月甲午日，以青牛、白马祭祀天地、祖宗，整顿队伍向西进发。先写信给回鹘王毕勒哥说“：从前我国太祖皇帝北征，经过卜古罕城，就曾派遣使者到甘州，下诏给你们祖先乌母主说：‘你思念故国吗，朕马上就可以为你恢复，你担心不能回去吗，我已经拥有这片土地了。我拥有，也就是你拥有了。
你的祖先当即上表致谢，认为国家迁来此地，已有十几代人，军民都留恋现有国王，不愿迁居异地，所以我也就不能重返故国了。这表明我国与你们国家的交好已有多年历史了。现在我准备向西前往大食，向你们国家借道，你们切不可生疑。”毕勒哥接到书信，当即到客舍迎接，大宴三日，临走之前，又进献六百匹马、一百只骆驼、三千只羊，并愿以子孙为人质做附庸，送至境外。所经过之处，为敌的击败之，降附的安抚之。行军万里，有好几个国家归附，获得的骆驼、马匹、牛、羊、财物，不可胜数。兵力日益强大，士气日益高涨。
到寻思干，西域各国合力举兵十万，号称忽儿珊，前来拒战。两军相距大约两里。大石晓谕将士说“：敌军虽多但是没有谋划，攻击它，便会首尾不能相救，我军必定会获胜。”派六院司大王萧斡里剌、招讨副使耶律松山等率兵两千五百人攻击其右路，枢密副使萧剌阿不、招讨使耶律术薛等人率兵两千五百人攻其左路；自己率众进攻其中路。三军一齐攻击，忽儿珊大败，伏尸数十里。大石驻军于寻思干共九十日，回回国王前来降附，贡献土产。
又西行至起儿漫，文武百官册立大石为皇帝，1134年二月五日即位，年三十八岁，号称葛儿罕。又奉上汉制尊号曰天佑皇帝，改元延庆。追谥祖父为嗣元皇帝，祖母为宣义皇后，册立元妃萧氏为昭德皇后。于是对百官说“：我与你们行程三万里，跋山涉水过沙漠，日夜艰辛前行。仰赖祖宗之福佑，你等众人之力，我冒昧地登了大位。你们的祖、父都应该加以存恤善后，以共享荣耀。”从萧斡里剌以下四十九人的祖父和父亲，封号爵赏各有等差。
耶律大石一行的西征路线问题，相继有许多研究者加入讨论。本篇以吾古孙仲端《北使记》记载为分析核心，辅以金山以西交通的考察，证明契丹军队曾由“叶密立”至“阴山”前，遇阻折入“回鹘国”。相关的论点尚有：以《辽史》中记载排斥《征服世界者史》等中亚作家记载的理由并不成立，而所称的“回鹘路”、“碎叶路”，由于沙漠穿越的困难，也并非一条捷径。
刘祁及同时代耶律楚材等使用的“回纥”一词所指，更可能是“畏吾儿”及与其在人种上相同的中、西亚白种人。耶律大石于金军来袭前即已进军“吉利吉思”，因此，一旦失利，即向西至于“翼只水”。其一行西征所过迂回曲折，还可从其对臣下所语“朕与卿等行三万里，跋涉沙漠”中得到旁证。
耶律大石的西征路线，学术界颇有不同的说法。归纳起来，主要的大致有三种：一、以俄国学者威廉·巴托尔德《中亚突厥史十二讲》第七讲〈西辽和可失哈儿的突厥文化〉为代表：西征分南、北二路：南路由“杭海山”亦今杭爱山西南行，越过金山亦今阿尔泰山南段，折而南入畏吾儿亦今xin激āng吉木萨尔县、吐鲁番市一带，再沿“阴山”亦今天山南麓进向可失合儿亦今喀什市；
北路由“杭海山”西北行，越过“贪漫山”亦今萨彦岭西段，入“吉利吉思”亦今俄罗斯克孜勒、阿巴坎市一带，受挫后退出，再西行越过“金山”和“翼只水”亦今额尔齐斯河抵达“叶密立”亦今xin激āng额敏县1。二、以周良霄先生〈关于西辽史的几个问题〉一文为代表：南路只是一支偏师，而以北路为主力经行2。三、以钱伯泉先生〈耶律大石西行路线研究〉一文为代表：“余大钧的观点过分重视波斯和阿拉伯史家的记载，从而使自己的意见基本上与巴托尔德相同，只不过把南下塔里木盆地和北征吉尔吉斯的时间错开而已”。
耶律大石西行的路线是：借道西州回鹘国，沿天山北麓西进，西北至叶密立城。三年后，又由叶密立南下伊黎河流域，再西进巴拉撒浑城。根本没有北上吉尔吉思地区，也没有南下塔里木盆地”。
细阅钱伯泉先生文章，“新论”的基点有二。一是以中国记载排斥波斯、阿剌伯记载：“我国自古即有严格而认真的记史、修史制度，《辽史》和《金史》的编纂，都有档案和实录做依据，即使在剪裁删削时，可能在年代和小节上会有失误，但是重要的史实决不会出现问题。因此，耶律大石西行经过西州回鹘汗国境内，是无可怀疑的事实。
中亚和西方向来没有guānfāng记史和修史的传统，有关史籍多出自私人之手，其可靠性自然比不上中国文献。因此，无论是志费尼，还是伊本－阿西尔都没有记录耶律大石路经西州回鹘的史实，由此可知穆斯林史家的记载也有其一定的局限性”。二是以所称的历史地理知识否定西行路线的其他方案：“既然耶律大石西行的目标大食，是喀喇汗王朝以巴拉撒浑城为中心的北部地区；
那么，只要熟悉古代中国北方和西域历史地理的人，立刻就会想到一条最便利的路线：自蒙古高原中部的可敦城出发，经过阿尔泰山南麓和东部天山北麓，到达西州回鹘国的都城别失八里，这条道路就是唐代中期开辟的回鹘路。再从别失八里沿天山北麓西行，在今xin激āng精河县穿过登努勒台山口，到达伊犁河流域，然后西经伊塞克湖南岸，西至巴拉撒浑城，这是一条唐朝十分繁荣的通道，因为终点是巴剌撒浑以西不远的碎叶城，所以被称作碎叶路”。
对于第一点，并不夸大地说，这种“感观”过于偏颇。乃为当时中亚主要历史著作之一的志费尼《征服世界史》等书难以轻易否定，犹如波伊勒在英译本序里所言：“《世界征服者史》是1252年或1253年在哈剌和林开始撰写的；而志费尼在1260年仍在撰写它”。“
引用巴尔托德的话，他的著作尚未得到它应有的估价”。“有意义的是，拉施特在谈这个时期的历史中，经常满足于几乎逐字逐句地追随他的前辈。志费尼更有两次访问东亚的方便。他对突厥人和蒙古人的大部分报道，必定是在蒙古宗王的宫廷中，以及他到那里去的旅途中所搜集到的”。
而以《辽史》、《金史》论，元人修史时资料就已残缺。苏天爵《滋溪稿》卷二五〈三史质疑〉：“金亡，元帅张侯柔收拾金史北归，中统初送史院，当时已阙太宗、熙宗实录”。“金诸臣三品以上方许立传，然多无事业，所书不过历官岁月而已。四品以下当载者多，而史却不载。当访求书之。
若夫将相大臣卒于太宗、熙宗、卫王之时者，虽历官岁月，今亦多无所考矣”6。耶律大石建国时，辽社已墟，而金所统治并不包涵大漠迤北。既不可能是耶律氏、完颜氏宫廷旧藏，当然也无法沾叨“我国自古即有严格而认真的记史、修史制度”之光。
