辽天庆四年（1114）春，完颜阿骨打正式起兵反辽。起初辽天祚帝并未重视此次反叛。可局势逐渐失控，天祚帝不得不下令亲征。但是辽军总是被女真军击败，完颜阿骨打也最终自称皇帝，建立金朝，即金太祖。

同年，辽朝又发生内乱。耶律章奴在辽上京叛乱。虽然这场叛乱很快就被平定，但是却分裂了辽朝内部。此后位于原渤海国的东京也发生高永昌叛乱，且这场叛乱一直持续到了辽天庆六年（1116）四月才被平定。五月，女真借机占领了辽东京和沈州。辽天庆七年（1117）女真攻春州，辽军不战自败。

天祚帝兵败于金，退守长春。御营副都统耶律章奴谋废天祚帝，遣使拥立耶律淳为帝。他杀来使，通报天祚帝，被进封秦晋国王、都元帅。耶律章奴还在燕云召募精兵，与金军作战，失败后收残兵数千人，还守南京（今北京）。

保大二年（1122），天祚帝被金兵追击逃入夹山。耶律淳被耶律大石与宰相李处温等拥立为帝，号天锡皇帝，年号建福，史称北辽。《辽史》记载："保大二年，天祚入夹山，奚王回离保、林牙耶律大石等引唐灵武故事，议欲立淳。淳不从，官属劝进曰："主上蒙尘，中原扰攘，若不立王，百姓何归？宜熟计之。"遂即位。百官上号天锡皇帝，改保大二年为建福元年，大赦。"不料三个月后，6月24日，耶律淳病死，其妻萧德妃普贤女摄政。

保大三年（1123）2月2日，金朝攻占燕京，萧德妃和耶律大石投奔天祚帝。萧德妃因为谋反而被天祚帝诛杀，但耶律大石却得到赦免。保大五年（1125）二月二十日，辽天祚帝在应州为金人完颜娄室等所俘，八月被解送金上京，被金太宗降为海滨王，至此辽朝灭亡。梁王耶律雅里于5月自立。10月，雅里亦被杀，耶律术烈被拥立。建福二年（1123）11月北辽灭亡，国祚只有19个月。北辽历传4帝，平均每位君主在位的时间不足5个月，在位最长的反而是辽宣宗的王后萧德妃。这个从后宫走出来的女人，在位差不多有一年。

虽然国家被灭，可契丹的实力并未就此消亡。契丹贵族耶律大石在西北召集残部，控制了蒙古高原和新疆东部一带。金天会十年（1132），耶律大石在叶迷立（今新疆额敏）称帝，史称西辽。西辽的建立者耶律大石是辽朝开国皇帝耶律阿保机的八世孙。耶律大石原本效力于天祚帝，在辽朝即将灭亡之际出奔。保大四年（1124），耶律大石称王，到达可敦城（今蒙古国境内）建立根据地。金天会十年（1132），耶律大石在称帝时号"菊儿汗"，群臣又尊汉号为"天祐皇帝"，建元延庆，西辽正式建立。

随后耶律大石向西域、漠北、中亚等地区扩张，建都于虎思斡鲁朵（今吉尔吉斯斯坦境内）。在金皇统元年（1141）的卡特万之战，耶律大石击败塞尔柱帝国联军后称霸中亚，威名远播至欧洲。突厥语和西方史籍称之为哈剌契丹或喀喇契丹。高昌回鹘、西喀喇汗国、东喀喇汗国及花剌子模先后臣服于强盛期的西辽。耶律大石死后，西辽历经萧塔不烟、耶律夷列、耶律普速完三代君主后，到耶律直鲁古时期，由于长期对外战争，西辽的国力走向衰落，最终被屈出律篡国。

蒙古帝国崛起后，西辽于嘉定十一年（1218）被大蒙古国所灭。由耶律大石率领西迁的这部分契丹人后来可能融合于回鹘、蒙古和中亚当地人中了。

西辽灭亡后，契丹贵族波剌黑前往波斯的克尔曼，于嘉定十七年（1224）建立了起儿漫王朝，又被称为"后西辽"，这也是契丹人在历史上建立的最后一个政权。但这是一个伊斯兰化的政权，于元大德十年（1306）被伊尔汗国所兼并。

大部分生活在中原地区的契丹人，在辽朝灭亡后则沦为金朝的臣民。金朝女真族统治者在灭辽过程中，先强行迁徙部分契丹人至今东北中部和北部地区。因女真族曾受够了契丹族的压迫，故反过来对契丹族实施歧视政策。女真人将其姓氏耶律改为移刺，萧改为石抹。但也有女真统治者用赐国姓完颜的方法拉拢契丹上层贵族人物的情况。

蒙元时期，元朝为统一中国，开疆辟壤，动员契丹兵马参加灭金、灭南宋的战争。契丹人也对女真亡其国十分不满，遂积极参战，而且屡建战功。从地域来看，蒙元时期的契丹人仍主要分布在故地，即今内蒙古的赤峰市、通辽市和辽宁、吉林一带。但随着蒙古人破西夏、灭金、降高丽、平大理、亡宋、西征等战争的进行，部分契丹人被征调出征，离开了上述地区，开始遍布整个中国，甚至远至朝鲜、中亚和西亚地区。他们有的被安排在各地驻防，有的留在当地做官并定居下来。

2004年以来，有关专家用DNA技术认定达斡尔族及云南阿、莽、蒋姓"本人"为契丹族后裔的消息公布。日前，中国医学科学院和中国社会科学院部分专家利用DNA技术解开了契丹族消失之谜：达斡尔族与契丹有最近的遗传关系，为契丹人后裔。云南的阿、莽、蒋氏"本人"与达斡尔族有相似的父系起源，也应是契丹族后裔。

至此，专家们做出这样的结论和比喻：元代蒙古人建立横跨欧亚大陆的蒙古大帝国时，连年征战。这使得契丹人被征服，被分散到各地。他们有的保持较大的族群，如达斡尔族作为民族续存保留下来，有的则被当地人同化了。后者是最难寻找的，因为契丹族一千多年来一直保持着"外婚制"，所以纯粹意义上的契丹人已不复存在了。

契丹作为千年强族，建立强大政权，在中华乃至亚洲史上留下浓墨重彩的一笔，却也只能湮没在历史长河之中。如今，我们只能在史书、古迹与后裔群体中，窥视他曾经的光辉。