果然如仆固怀恩所料，当天半夜，叛军大将李归仁、安守忠与张通儒、田乾真均弃城逃走。一直到第二天天亮，唐军才得知消息，然而追击已经来不及。九月二十八日，唐大军进入长安，长安由此收复。
李俶率军进入长安时，城内的百姓扶老携幼，夹道相迎。然而，他们并不知道，肃宗与回纥背后的交易差点让他们遭到灭顶之灾。长安收复后，回纥叶护便要履行前约，预备大掠长安，索掠城中的金帛、女子。广平王李俶见百姓正欢天喜地，喜悦难言，于心不忍，拜于叶护马前，劝说道：“现在刚刚收复西京（长安），如果大肆虏掠，则东京（洛阳）城中的人皆为叛军固守，就难以攻克了，愿收复东京后再如约。”叶护见李俶对自己下拜，非常吃惊，急忙跳下马答拜，跪下捧着李俶的脚说：“我立刻率兵为殿下收复东京。”随后与仆固怀恩率领回纥、西域兵由城南绕行，到浐水以东安营扎寨。
长安的百姓得知真相后，拜泣李俶说：“广平王真是华夷之主！”李俶由此赢得了巨大的声誉。后来肃宗听说此事，感慨地说：“我不及也！”
长安收复后，叛军军心动摇，叛军大将张通儒等逃出长安后东走，率残兵退守陕郡。李俶、郭子仪又率大军进攻洛阳。安庆绪集合全部精锐，以御史大夫严庄为指挥，与张通儒合兵，步骑共15万，抗拒唐军。
十月十五日，广平王李俶率大军至曲沃（今河南灵宝东）。回纥叶护派麾下将军鼻施吐拨裴罗率军依南山设伏，郭子仪等率军与叛军在新店（今河南陕县西）交战，叛军依山结阵，郭子仪初战不利，开始败退，叛军趁胜下山追击。事先埋伏在南山的回纥兵突然冲出，袭击叛军后方。叛军一直畏惧回纥兵，当时回纥兵尚未追及，于滚滚尘埃中先射出了十几支箭，叛军一见是回纥的箭矢，惊呼道：“回纥兵来了！”军无斗志，竟然由此而溃散。唐军趁机杀了个回马枪，与回纥兵两面夹击，叛军大败，死伤遍野。
安庆绪见大势已去，率领残兵仓皇逃往河北。在离开洛阳之前，安庆绪将俘获的唐将哥舒翰、程千里等30余人杀死。
十月十八日，广平王李俶率军入洛阳。至此，两京均已收复，平叛战争取得了重大胜利。洛阳百姓却再次遭受不尽的苦难，欢迎唐军的人群还没有散去，回纥兵已按捺不住，直冲向库府收取财帛，在洛阳市井及村坊之中大肆抢掠3日，且理直气壮，毫无顾忌。广平王李俶也无法阻止其剽掠行为。洛阳民众出于无奈，主动募集罗锦万匹献给回纥，回纥才停止抢劫。为了安抚回纥，肃宗任叶护为司空，封忠义王，并规定每年赠回纥绢2万匹，从朔方军领取。
十月二十三日，肃宗重回长安，城中百姓出国门奉迎，20里不绝，均舞跃呼万岁，喜不自胜。之后，肃宗大赦天下，只有与安禄山同反者及李林甫、王鉷、杨国忠子孙不在赦免之例。立广平王李俶为楚王，不久又被封为皇太子，加郭子仪司徒，李光弼司空，其余李嗣业、王思礼、仆固怀恩（铁勒部人）、鲁炅、张镐等有功之将各进阶赐爵，加食邑不等。死节之士李憕、卢奕、颜杲卿、袁履谦、许远、张巡、张介然、蒋清、庞坚等皆加赠，并封其子孙官。战亡之家，免两年赋役，郡县明年租、庸免三分之一。唯有肃宗最重要的谋臣李泌归隐衡山。
可叹的是，唐军收复洛阳后，回纥兵在城内大肆烧杀劫掠，死者多达数万人，大火几十日不熄。而唐军方面的朔方、神策军也认为东京、郑州、汴州、汝州都是叛军所据之地，也大肆虏掠，3个月才停。这些州县均被荡尽，士民不得不以纸为衣。
安史之乱无疑是唐朝历史中最重大的事件，它也被认为是唐王朝由盛到衰的转折点--一个本来富饶、稳定和辽阔的集权帝国，经过安史之乱后，演变成一个斗争不休、不安全和分裂的国家。安史之乱甚至被认为是整个中国历史的一个大转折点，它不但对社会和经济造成了巨大的破坏，而且充当了强烈的催化剂，产生了严重和深远的后果。在这场旷日持久的战争中，中原人民遭到了空前的浩劫，特别是北方经济受到很大破坏。“洛阳四面数百里州县，皆为丘墟”，出现了千里萧条、人烟断绝的惨景。尤其是肃宗、代宗为了早日平叛，均积极鼓励叛军自动投降，准许他们在原地任官，继续为唐朝效力，因此，最后唐朝廷平定叛乱实际是以妥协的方式来解决的。这种妥协的代价是高昂的，中央的力量被严重削弱了，方镇割据的局面初步形成。在节度使管辖的地区，唐朝廷既不能任免官吏、征收赋税，又不能调动军队。节度使的职位，或者父子相袭，或者部将相继。他们手握重兵，互相攻伐，对唐朝中央集权形成了严重的威胁。此后，唐帝国一直处在混乱多事和分裂割据的状态之中，皇室急剧衰微，再也没有振兴起来。在封建社会，皇室的命运与国家的命运密不可分，皇室的衰微就是国家的衰微。一个辉煌的时代终于结束了。
