安史叛乱给人民带来了沉重的灾难，使黄河流域的社会经济受到了严重的破坏。兵锋所及，烧杀掳掠，无所不为。叛军攻陷城池，纵兵抢劫；驱迫丁壮，挑担运物；屠杀老弱，视为玩乐。大河南北和关中富庶之地变为田地荒芜，人烟冷落。广大人民渴望和平的生活，希望唐王朝平定叛乱。因此，当唐玄宗一行即将离开马嵬驿继续逃跑的时候，父老们纷纷挡住车驾，请求皇帝留下。他们对玄宗说:“陛下的宫殿、陛下祖宗的陵庙都在这里。您怎么能舍弃不管？”玄宗不愿停留下来，他只得命太子李亨留在后面宣慰百姓。父老们对太子说:皇上既不肯留下，我们愿意带领子弟跟从殿下东破叛军，收复长安。
在他们的呼吁下，李亨的儿子建宁王李琰、亲信宦官李辅国等献计，认为若一齐随往西川，局面可能更难收拾；成都又是杨国忠的老家，国忠虽已被诛，但成都仍有他的残余势力，更不可前往；不如分皇上所带之兵，北趋朔方，以图兴复。李亨接受了这些建议，就途经鼓原（今甘肃宁县）、平凉（今甘肃平凉），辗转到达西北边上的灵武（今宁夏灵武西南），披草莱，立朝廷（当时朝廷的官吏还不足三十人），于天宝十五年（756年）七月十三日称帝，改元至德，遥尊玄宗为太上皇。这就是唐肃宗李享。李亨是个有心计的人，他长期处在父亲玄宗和权臣李林甫、杨国忠的夹击中。
唐代的皇位继承权一向很不牢固，有时太子虽已立定，但只要太子的兄弟有实力，或得到权臣的拥护，太子即可被废。如玄宗自己就不是嫡长，只因他功业显著，才代替了已立为太子的睿宗长子成器而取得帝位。玄宗既是在复杂的政治形势中登上了皇帝的宝座，因此，他紧紧攫住皇位，玩弄权术，钳制太子。最初立次子李瑛为太子，以后又想立寿王瑁（玄宗的第十八个儿子），最后才立李亨（即忠王李玙，为玄宗第三子，又名李绍）为太子。当唐王朝处于存亡关键时刻，李亨乘玄宗逃往剑南的机会，就率领一部分人马北上，取得了军民的支持和拥护。肃宗在灵武即位，首先，在政治上起了组织号召作用。
自安史之乱爆发，一直到玄宗逃出长安，唐朝廷几乎陷于群龙无首的状态。各地官军纷纷逃散，少数将领起来抵御，但都各自为政，势孤力单。肃宗即位，人心为之一振。其次，人民苦于叛军的蹂躏，当他们得悉李亨即位，整顿甲兵、准备收复两京时，大为兴奋，互相奔告:“太子即位，唐军即将来了！”长安附近的百姓纷纷起来打击叛军。义军此起彼伏，相继不绝。叛军在关中的势力受到很大限制，南不出武关（今陕西丹凤附近），北不过云阳（今陕西淳化北），西不过武功（今陕西武功）此时颜真卿在与灵武政权取得联系后，把肃宗派人用蜡丸送来的赦书向河北一些郡县公布，使大家树立起平乱必胜的信念。
再次，以灵武为反攻的政治中心，对军事力量也采取了一些措施如从河北把郭子仪的朔方军五万步骑调往灵武，充实军力；与此同时，又在财政上作了一些准备，接受江淮租庸使第五琦的建议，把江淮物资由汉水上运深川（今陕西洋县），再从深川陆运扶风（今陕西凤翔），以供军需。肃宗即位三十三天后，所派使者才到达成都，这时，玄宗方知儿子李亨早已建立自己的朝廷。鞭长莫及，玄宗只得承认既成事实，委派大臣韦见素、房琯、崔涣等从成都带着玉玺玉册等传位国宝去灵武，册立肃宗。肃宗对他们很优待，对房琯尤其重视，灵武的许多军国大事都请房琯参决。
后来，房琯上书请求带兵讨伐叛军，前去收复两京，肃宗同意了这一请求。房琯是个不懂军事、喜欢慷慨陈词、又十分腐的儒生。他有热情，喜欢招待宾客，诗人贾至、杜甫以及与杜甫有密切关系的严武等，都和房琯有深厚的友谊。在房琯部下处理军机要事的李辑和刘秩等，也是不习军事的书生。唐至德元年（756年）十月，房琯布署反攻战事，把唐军分为三路:南路派杨希文率领，自宜寿（今陕西周至县）进攻；中路派刘贵悊率领，自武功进攻；北路派刘光进率领，自奉天（今陕西乾县）进攻。房琯以中路和北路为前锋，十月二十一日与叛军战于陈陶斜（又名陈陶泽，在今陕西咸阳东）。