10世紀初，契丹再次崛起。公元901年(唐天復元年)，耶律阿保機被推舉為契丹迭刺部的夷離堇(部落酋長)。此后，阿保機率領部下連年發(fā)動對各部落的戰(zhàn)爭，統(tǒng)一了契丹八部，其勢大增。公元907年(唐天佑四年)，耶律阿保機即位，國號契丹(遼)。阿保機即位后，便把擴張的矛頭指向遼東地區(qū)，從而加劇了與渤海的矛盾。

遼東地區(qū)本屬唐朝安東都護府管轄。但唐朝末期，唐王朝已無力管理這一地區(qū)。這樣，這里就成了渤海國、新羅和契丹爭奪的焦點。而契丹人憑借其強大的政治、經(jīng)濟和軍事力量，欲圖遼東，勢在必得。

自公元908年(遼太祖二年)至919年，契丹人采取“筑長城于鎮(zhèn)東?？凇?、“鉤魚于鴨綠口”、“修遼陽故城”等措施，以強化對遼東地區(qū)的經(jīng)營和控制。實際上此時契丹人已占領了渤海國一部分土地，掠獲大批渤海人。

與契丹人積極對外擴張形成鮮明對比的是，渤海的統(tǒng)治者不顧業(yè)已衰弱的國力，大興土木，建筑城池，在渤海國廣袤的國土上，尤其是渤海的腹心地區(qū)，規(guī)模龐大的京、府、州城乃至縣城拔地而起。京城，效仿唐朝，有外郭城、宮城和王城，布滿巍峨的樓臺殿閣，玲瓏的亭榭，美麗的園林，雄偉的城墻，井然有序的里坊。這些建筑耗費了巨大的人力、物力和財力。

渤海的王公貴族們過著驕奢淫逸的生活，公卿大臣們爭權(quán)奪勢。貴族和官僚們?yōu)榱司S護其特權(quán)，不斷強化暴力機器，僅軍隊就由數(shù)萬人猛增至幾十萬人。在當時渤海的生產(chǎn)力條件下，供養(yǎng)這支龐大的軍隊，可謂傾全國之力。

由于國力衰弱，廣大農(nóng)民、手工業(yè)者不堪重負，部曲和奴隸增多，廣大渤海人民與統(tǒng)治階級之間的階級矛盾十分尖銳。同時，國內(nèi)的民族矛盾和統(tǒng)治階級內(nèi)部的矛盾也不斷加劇，經(jīng)常發(fā)生激烈的斗爭，渤海的統(tǒng)治力量在內(nèi)耗中被大大削弱。

此時，渤海國政治不修，統(tǒng)治集團外強中干，已不是昔日那個令周鄰敬畏的“海東盛國”了。面對咄咄逼人的契丹人，無能的渤海末代王大諲撰,連施下策。先是要聯(lián)合往日宿敵新羅一起進攻契丹，而新羅卻加入了契丹消滅渤海國的軍事行動。

隨后，大諲撰遣使向契丹稱臣納貢，但契丹人卻不領情，沒有動搖契丹人要滅渤海的決心。大諲撰見前兩招不奏效，于是貿(mào)然派兵進攻契丹，從而招致契丹更大規(guī)模的軍事反攻。公元925年，耶律阿保機詔告天下:“惟渤海世仇未雪，豈宜安駐!”殺青牛白馬以祭告天地。契丹動員全國兵力，向渤海發(fā)起全面進攻。

遼太祖耶律阿保機率領契丹軍主力和回鶻、新羅、吐蕃、黨項、華陀等援軍御駕親征。皇后、皇太子、大元帥堯骨一道從征，契丹大軍首先揮師東進，迅速包圍了渤海國的邊防重鎮(zhèn)扶余府(今吉林農(nóng)安)。

經(jīng)過數(shù)日激戰(zhàn)，公元926年正月初三，攻占了扶余府，斬殺了渤海守將，耶律阿保機乘勝命令惕隱安端為先鋒，領兵1萬繼續(xù)東進，途中打敗渤海3萬軍隊，契丹軍乘勝前進，包圍了忽汗城(上京龍泉府)，駐扎在城南。

此時走投無路的大諲撰素服牽羊，率領僚屬300多人出城投降，阿保機派遣近侍康末怛等13人進城，搜繳兵器。渤海士兵殺掉了康末怛，大諲撰又舉起反對契丹的旗幟。耶律阿保機發(fā)起了對忽汗城的猛攻，康默記率領士兵首先登上了東門，上京失陷。契丹大軍入城，大諲撰投降。公元926年，耶律阿保機以迅雷不及掩耳之勢，僅用了二十多天，就把歷經(jīng)229年名聲赫赫的“海東盛國”打敗了。

渤海國滅亡后，遼太祖耶律阿保機將大批渤海人遷徙到西喇木倫河和老哈河流域契丹的腹地和遼西一帶。后又將大批渤海人遷至沈陽以南直到遼東半島一帶。據(jù)史料統(tǒng)計，遷居遼東、遼西、昭烏達盟一帶的渤海人，總計有94000余戶，約47萬人。

契丹滅掉渤海國后，將其疆域擴展到渤海地區(qū)。地處渤海北部的女真、鐵利、鼻骨德等部落相繼歸順契丹，契丹的統(tǒng)治范圍擴大到東北的東部和北部地區(qū)，從而實現(xiàn)了東北地區(qū)的統(tǒng)一。