为了彻底孤立和打击辽国统治者，阿骨打对于主动投降金国或作战中被俘的契丹将领，均采取“服者安抚之”的策略。只要他们肯为金朝效力，悉数委以官职。
随着两国战事连绵不断，辽国统治集团内部矛盾重重，分歧亦越来越大。
天辅四年(1120)三月，辽国派遣使者向金求和。阿骨打认为是辽国的缓兵之计，没有响应。同年五月，阿骨打亲率大军攻占了辽国的上京临潢府，取得了继攻占黄龙府之后的又一次重大胜利。辽国朝野震惊。军中不断生变，厌战和起义事件不断发生。
此时，天祚帝又做出了令辽国前途堪忧的举措：他听信奸佞之言，对一部分主将失去了应有的信任。不久，辽国大将耶律余睹率部降归金国。
耶律余睹是辽国皇室宗亲，颇有才干。在同金军作战中，屡立战功。他的军队有着很强的战斗力，对金军构成了一定的威胁。阿骨打在占领辽国上京临潢府之后，曾亲自写信向耶律余睹招降，但遭其拒绝。
天辅六年(1122)正月，耶律余睹被萧奉先诬为谋反，天祚帝决定处死他。耶律余睹在军中听说后，担心枉自被诛，立即率领家人及千余亲兵叛离天祚帝，投奔了金国。
阿骨打对耶律余睹的到来相当重视，尽其所能对他及部下进行妥善的安置。他亲自接见耶律余睹和他的官属，以宰相的礼遇为其接风洗尘。
阿骨打对耶律余睹不计前嫌，委以重任，封其官职，并令其立功受奖。
阿骨打的高瞻远瞩及博大襟怀，进一步提高了他在当时的威望，吸引了更多人投到了金国的大旗之下，参加反辽斗争。
辽国的大业在金国的旁敲侧击之下，已然摇摇欲坠。随着其统治愈加腐朽和没落，金的大举攻势也拉开了帷幕。
天辅六年(1122)六月，阿骨打在耶律余睹的引导下，攻克了辽国的中京，不久又攻下了辽国的西京大同府。同年十二月，阿骨打亲自带兵攻下了辽国首府燕京，天祚帝逃亡。天辅七年(1123)，在辽国灭亡的前夕，阿骨打去世。其弟完颜晟继位，继续对辽作战。
天会三年(1125)，辽主天祚帝被俘，辽国灭亡。
