三月初六，唐军步、骑兵总计六十万人（即使没有六十万，也起码有二十多万了），在安阳河北岸摆开阵列，史思明没有出动自己的全部人马，因为就算全出来，也是十三万，人数上根本没有优势。而唐军几十万大军，虽然气势宏大，但是必然行动不便，史思明便从这方面下手，以自己的灵活来对战唐军的笨重，于是他亲率精兵五万前来交战。唐军远远望见，以为那只是一支游军，并不介意。这时史思明身先士卒，率军冲锋，唐军中李光弼、王思礼、许叔冀和鲁炅率先领兵迎战，与叛军杀伤各半，结果鲁炅还被乱箭射中。叛军是五万人，损失一半是两万五千人，唐军四路节度使人数怎么也超过叛军人数，所以其实是唐军损失更大。这时郭子仪率兵紧跟在后，还没来得及布阵，忽然刮起了大风，吹的尘土飞扬，甚至树木都被拔起，一时间天地一片昏暗，“风萧瑟而并兴，天惨惨而无色”，咫尺之间人马不辨，两军都大吃一惊，然后各自撤退。唐军向南退，叛军向北退，丢弃的兵器盔甲到处都是。郭子仪命令朔方军队切断河阳桥，以确保洛阳的安全。唐军损失惨重，一万匹战马只剩下来三千，十万甲兵差不多全部丧失。洛阳城中的官民十分惊恐，纷纷逃到山中，东京留守崔圆和河南尹苏震等官员向南逃到了襄州、邓州，各路节度使也都率领本部兵马逃回本镇。这些败兵沿路大肆抢掠，胡作非为，当地官吏和军中将帅都无法制止，闹了十多天才安定下来。众军中，只有李光弼和王思礼严肃军纪，全军返回。
郭子仪率军退回到河阳（今河南孟县附近），本想坚守城池，结果军队自相惊扰，只好又逃奔到缺门（今河南新息附近）。这时其它部将也都陆续赶到，大家一起点检人马，发现才有几万，从几十万到几万，的确是场大败了。几人一商量，洛阳怕是保不住，因此也不必死守，认为退保蒲州、陕州比较保险。但张用济认为蒲州、陕州连年饥荒，不如坚守河阳，如果叛军来攻，就全力坚守，郭子仪同意，当下便派韩游率领五百骑兵先进军河阳，张用济率领五千步兵继后。果然叛军周挚随后领兵来争夺河阳，由于他们晚到一步，无法入城，只好退去。张用济在河阳让士兵们筑南北两城准备坚守。此时段秀实带着镇西将士们的家眷和物资从野戌渡过黄河，在河清待命，荔非元礼到后也驻军于此。至此唐军才稳下阵脚来。从各处记载来看，似乎此战唐军主要吃亏在天气上，如果不刮那阵大风，等郭子仪列好阵，或许不会是这样的结果。可是，单是大风的作用，唐军便败退的为何如此狼狈？主要是唐军心理上的防线崩溃了，所以才会出现这样的结果，否则史思明也是因大风而退兵，却没有像唐军这样狼狈。史思明先前敢于只带五万人前来冲击，对唐军士气影响是很大的，并且唐军是四个节度使包括李光弼、王思礼这样的大将来迎战，也未见能把这五万人怎么样。因此，如果大风不起，双方战斗的会持久一些，也许最后唐军能获胜，但赢得也必定相当辛苦。
此战过后，各路将帅纷纷上表谢罪，肃宗必定十分气恼，但将来平叛还要依靠他们，因此都没责问罪过，只是把逃跑的崔圆和苏震削爵贬职，以泄心头之愤。不过，鲁炅后来因为自己手下兵士抢东西抢的最厉害，畏罪自杀了，荔非元礼则正式代替李嗣业。至于挂名的副元帅郭子仪，肃宗起初任命他东畿、山东、河东诸道元帅，暂代东京留守，后来因为鱼朝恩忌恨他，便借相州之败，在肃宗面前进谗言诋毁他。七月，肃宗召郭子仪回长安，改任李光弼为朔方节度使、兵马元帅。但朔方士兵们都舍不得郭子仪离开，痛哭流涕，拦住朝廷派来的宦官，请求把郭子仪留下来。郭子仪没办法，只好骗他们说：“我只是先去送别朝廷中使，不是要离开。”于是便跃马而去。
唐军的副元帅换成了李光弼，而李光弼和史思明正是一对老冤家，两人再次相逢于战场之时，又会如何呢？