至德元载（756年，实际改元是在七月二日），肃宗在灵武即位之后，由于他势单力薄，岌岌可危，遂调郭子仪部到灵武，并以郭子仪为兵部尚书兼宰相。
郭子仪认为河东（现在的山西永济）的战略地位非常重要，东下可进东京，西上可取长安。于是，他派人秘密潜入河东，准备内应唐军。
至德二载（757年）二月，郭子仪率军从洛交（现在的陕西富县）进攻冯翊（现在的陕西大荔），逼近仅一河之隔的河东。河东城内有人乘机内应唐军，杀叛军近千人。叛军守将崔干佑越城逃走，郭子仪乘胜追击，斩敌四千人，俘虏五千人，顺利攻下河东。由于唐军连战告捷，肃宗也由灵武到了凤翔（现在的陕西凤翔）。
四月，即命郭子仪为天下兵马副元帅（元帅为皇子李俶，后来的代宗皇帝），继续征讨叛军。九月，郭子仪率唐军十万，逼近长安，与叛军十万人相持于长安西南香积寺沣水之东。
经过激战，叛军全线崩溃，唐军收复长安。郭子仪乘胜东进，追叛军至潼关，杀敌五千人，占领华阴（现在的陕西华阴）、弘农（现在的河南灵宝）。
这时，安禄山已死，其子安庆绪放弃洛阳，北渡黄河，走保邺（现在的河南安阳北），唐军收复洛阳。肃宗回到长安，召郭子仪还京。肃宗派人隆重迎接郭子仪于京城以东的灞上，见了郭子仪。他感激涕零地说：
“虽吾之家国，实由卿再造。”
由于郭子仪的推荐，肃宗派使臣授李光弼为户部尚书、同门下平章事。李光弼先在太原打败了凶悍的史思明，肃宗迁李光弼为司空，封郑国公。然后，李弼东出井陉（现在的河北井陉西北），攻下常山（现在的河北正定）。
叛军史思明部妄图夺回常山。双方相持四十余日，李光弼向郭子仪告急。郭子仪于四月兵至常山，与李光弼合兵一处，共十余万人，九门（现在的河北正定东）一战，大败叛军。
755年，安禄山正式起兵反叛，很快就攻陷东都洛阳，西攻潼关受阻，安禄山便于天宝十五载（756年）春正月，自称“大燕皇帝”，改元圣武。
安禄山本来就腹大垂膝，行动不便，做了至尊，更是声色自娱，深居简出。由于目疾严重，视物困难，加之患疽，脾气暴躁，动辄箠楚臣下，甚至诛杀，整得人人自危。挨打最多的是贴身侍从李猪儿，甚者，连心腹谋士居中用事的庄严亦不能幸免。
做了皇帝的安禄山，又打算立宠妃段氏所生庆恩为太子，以取代安庆绪，安庆绪亦惶恐不安，担心被杀。于是，安庆绪、庄严与李猪儿密谋，连夜暗杀安禄山于卧榻，并于床下就地掘坑掩埋。接着，安庆绪迅速即皇帝位。
乾元元年（758年）九月，肃宗调动各路大军进攻安庆绪。参加作战的九节度使中，郭子仪、李光弼战功最多，威信最高，肃宗不愿把军权交给他们，所以不设主帅，只命宦官鱼朝恩为观军容宣慰处置使，总揽全局。
郭子仪等唐军围邺，并引漳水灌城，安庆绪不仅遭水灾之苦，而且城中极其缺粮，甚至老鼠也成了贵重食物，一鼠可卖四千钱。这正是破城良机，但因兵众无主，无人统一指挥，以致错失良机。
史思明为援邺而截劫唐军的粮草，又以声东击西的战术不断袭击唐军。于是，乾元二年（759年）三月，唐军与史思明叛军展开激战。正当激战之际，大风忽起，吹沙拔木，天昏地暗，咫尺不辨敌我。混战中双方均损失惨重。郭子仪退向河阳（现在的河南孟县），保卫东京。
这次战役的失利，鱼朝恩有责无旁贷之过，但他为了推卸责任，竟诬陷郭子仪作战不力。肃宗遂召郭子仪还京，并免其军职，还以李光弼为天下兵马副元帅，取代郭子仪的职务。
郭子仪在京闲得无聊，党项等羌人却在京西不断制造事端，威胁长安。肃宗为了借重其威名，遂命郭子仪为邠宁、鄜坊两道节度使，但只是徒有其名，因为他还不能离开京师。
