淝水战后，前秦元气大伤，先前被征服的鲜卑、羌等部族酋豪纷纷举兵反叛，建立割据政权。慕容家族先是慕容垂逃回前燕故地，慕容宗族的子弟跃马披甲，遍地狼烟。羌族的姚苌等人也重新崛起，丁零、乌丸相继起叛。北方重新四分五裂。
苻坚困守长安，看见前燕贵族背信弃义，把慕容暐叫到面前大骂：“你们家族兄弟子侄布列上将，当时虽称是灭国，其实我待你们像归家一样。现在慕容垂、慕容冲、慕容泓各个称兵，你们家族真是人面兽心，枉亏我以国士待你们。”虽然如此，苻坚看见在自己面前涕泣陈诉装孙子的慕容暐等仍不忍诛杀。
长安城外，慕容暐之弟慕容冲率军歼灭秦军数万，占据阿房城，步步逼近。慕容冲是个阴狠凶戾的小白脸，十二岁时前燕国亡，曾与十四岁的姐姐清河公主一道为苻坚纳入后宫，作为娈童服侍苻坚，姐弟专宠，旁人莫进。最后还是王猛切谏，把这个小白脸放出外任做大州刺史。
鲜卑大军进攻长安城，苻坚凭城观看，心里慨叹敌人之强，派人送一锦袍于慕容冲，想打动对方念忆从前的床笫之情。慕容冲答道：“孤家现在以天下为任，怎能看这一袍小惠。如果你束手来降，我们慕容家对待你也不会比你从前待我们家差。”苻坚气得几乎吐血，大叫：“后悔不用王景略和阳平公（苻融）之言，使白虏敢猖狂如此！”（慕容鲜卑族人皮肤白皙，故苻坚呼之为白虏）
长安城内，犹有鲜卑数千人在大宅子里住着，慕容暐时刻不闲，秘密招集族人准备埋伏人马袭杀苻坚，其间消息泄露，苻坚大惊，这才诛杀慕容暐父子及其宗族，城中鲜卑不论少长及妇女全被杀光。自此之后，灭人国者如果不忍心对亡国家族下绝杀令，劝谏者往往以苻坚为“柔仁邀名”的首例，致使后代亡国之皇族罕有保全者。
慕容冲在长安城外围城日久，城中乏粮，以致于出现人吃人的惨剧。苻坚倾最后家底设宴款待群臣，打仗的将军也分不到几片肉吃，塞进嘴里不敢咽下，回到家“吐肉以饴妻子”。数月之间，烟尘四起，百姓死亡无数。慕容冲率众登长安城，苻坚全身甲胄，亲自督战，飞矢满身，血流遍体。最后，苻坚听信谶言“帝出五将久长得”的鬼话，从长安出奔，只留太子苻宏守城。慕容冲纵兵大掠长安，死者不可胜计。
苻坚逃到五将山（今陕西岐山县），羌族首领姚苌派兵包围了他，秦兵溃奔，身边只剩下十余个侍卫。苻坚此时帝王之度不改，坐而待之，召厨师进食。
姚苌大将吴忠驰马赶到，把苻坚捆起来送到新平，继而姚苌又派人向苻坚索要传国玉玺。苻坚大骂：“国玺已送晋朝，怎能送给你这个忘恩负义的叛贼！”姚苌又让苻坚把帝位禅让给他，苻坚又骂：“禅代是圣贤之间的事。姚苌什么东西，敢自比古代圣人！”
姚苌羞愤，派人把苻坚缢死在新平佛寺，时年四十八岁。其子苻诜，两女苻锦、苻宝以及夫人张氏等人皆自杀（最奇怪的是，淝水之战东晋一方幕后“总指挥”谢安也于同月病死，一南一北两个大人物同时离开历史舞台，真是一种意味深长的“巧合”。）。
历史学家陈登原认为苻坚有四大善事：文学优良，内政修明，大度容人，武功赫赫。纵观中国古代君王，真正能做到这四点的寥寥无几。苻坚与王猛君臣相得，明锐果决，想得到的一定要成功，豪俊不凡，但可惜的是矜大好功，不知休息民生，怀妇人之仁，在内有慕容垂等未除之，时又大举伐晋，一跌而失天下，成为后世讥讽攻击的对象。
宋代大儒王安石有自以为盖棺论定的评价：“苻坚好功，而不能忍，智大而不见机。（王）猛知其不能除（慕容）垂，故劝以勿伐晋耳。不然，以（苻）坚之强，而欲取晋，夫又何难之有！”
然而《资治通鉴》的编纂者司马光有他独到的见解：
（苻）坚之所以亡，由骤胜而骄故也。魏文侯问李克：吴（国）之所以亡，对曰：“数战数胜。”文侯曰：“数战数胜，国之福也，何故亡？”对曰：“数战则民疲，数胜则主骄，以骄主御疲民，未有不亡者也。”秦王（苻）坚似之矣！