大英雄苻坚经过二十多年苦心经营，国富民强，基本统一了中国北方，只有偏安一隅的东晋尚未征服。攻克襄阳俘获朱序后，他自己认为统一天下的时机已经完全成熟。于是他大会群臣，说出自己伐灭晋朝的想法，接着，他又让众大臣各抒己见。
出乎意料，除秘书监朱彤以外，大臣们都反对伐晋，认为晋朝君臣和睦，上下同心，又有长江之险，不可轻易攻打。
苻坚自己也有道理，言之凿凿：“从前夫差威陵上国，勾践能一举成擒；孙皓承三代之业，司马军队一到，君臣受俘。晋朝即使有长江之险，有如虚设。以我之众多兵力，投鞭于长江，足可以断流！”群臣听毕，意见无法统一，仍众说纷纭。
苻坚挥出群臣，留下亲弟弟苻融商议决断。苻融流泪劝苻坚，以为伐晋有三不可：第一，天象不利，吴越之地有福象（古人非常迷信“天命”）；第二，晋国国君是明君，臣下又有谢安、桓冲这样的江表伟才；第三，国家连年数战，兵疲将倦，有畏战之心。最后，苻融把王猛临终遗言又复述了一遍，顿首泣诉：“伐晋必无功而返，而且陛下您宠信鲜卑、羌、羯等各族人等，他们遍布国都附近，手中有兵有权，而我们皇族贵戚却都在远方偏僻地方守边，现在倾国而去伐晋，一旦出事，后悔根本来不及！”
此后，苻坚的大臣权翼、受苻坚宠爱的少子苻诜以及国师道安等数十人面谏上书，苻坚均不听。只有先前投降的燕国勋贵慕容垂大力支持苻坚，发兵前他们自己与子侄辈都做好了趁乱复国的各方面准备。慕容垂说的话很动听：“陛下英明威武，而司马昌明（东晋孝武帝）敢依一隅之地，拒承王命，如果不加以征伐，怎显大秦威德。往昔孙氏跨踞江东，最终为晋朝吞并，是天意气运使然。为臣我听说，小不敌大，弱不御强，况且大秦上应符命，以陛下强兵百万，能将如林，神谋独断，怎能把僭伪之朝的贼虏留为子孙后代之忧呢。陛下应天机独断，不须广访群臣，以免耽误建立不世之功的机会。”
苻坚闻言大喜：“与吾定天下者，惟卿一人耳！”
淝水之战之前，前秦虽盛极一时，但只是表面的荣光，其内部隐藏着无数民族矛盾——河北、辽东以及河南以北，遍是慕容鲜卑余部；山西、陕西北部，都是山胡（匈奴支系）盘踞；关陇一带，羌人与卢水胡比比皆是；赵魏一带，丁零四布；山西东北和内蒙一带，拓跋鲜卑自成一系。至于广大的中原地区，汉族更是多数民族。相比之下，氐族人数稀少，将近十五万户氐族的雄武之士又被派往四处以充军事殖民之用。如此勉强粘和的政治军事集团，其内部结构其实非常脆弱。
前秦在攻陷襄阳俘虏朱序之后，又集中六万步骑进攻三阿（今江苏宝应），致使建康君臣大为震动。当时，谢安主持朝政，忙派其弟、征虏将军谢石统水兵屯聚涂中（今安徽滁县），又派侄子谢玄从广陵急赴三阿，击退秦军。后来，双方互有胜负，呈胶着状态。
晋将桓冲时任荆州刺史，于381年末在竟陵（今湖北潜江）派其侄桓石虔击败前秦军，斩首近万，活捉一万多。383年6月，桓冲本人又亲率十万晋军，进攻襄阳，并取得一定的胜利。苻坚大怒之下，派儿子苻睿和慕容垂率步骑五万救襄阳，数路俱进。慕容垂善用疑兵，连夜命军人每人持十个火把，遍挂树枝之上，“光照数十里中”。桓冲以为秦兵无数，畏惧而还，退保上明（今湖北松滋）。
谢安在桓温死后，深知中央政府应保持有一支可以直接指挥的“嫡系”部队，便以“土断”为手段，在北来侨民中征募了大批强壮年轻男性，号为“北府兵”，由谢玄负责训练。虽然“北府兵”不过十万人左右，但皆是失土怀恨的北方流民子孙和因难忍少数民族政权高压冒死逃至江东的汉人，这些人斗志昂扬，战不惜死。
苻坚下书令各州十丁遣一兵，征用公私马匹，发步骑二十五万为先锋，由慕容垂统帅，他自己率戎卒六十多万，骑兵二十七万，前后千里，旗鼓相望。发兵同时，苻坚已把晋国皇帝预封为尚书左仆射，谢安为吏部尚书，桓冲为侍中，并在长安修建了精美的大宅院以准备安置诸人。
大儒王夫之对帝王亲征有过如下看法：“苻坚不自将以犯晋，则不大溃以启鲜卑之速叛；窦建德不自将以救洛，则不被擒而两败以俱亡；完颜亮不自将以窥江，则不挫于采石，而国内立君以行弑；佛狸（拓跋焘）之威，折于盱眙；石重贵之身，擒于契丹……”此外，隋朝炀帝也是亲征最终亡国，英明神武如唐太宗，征辽也是无功而返，还有明英宗的土木堡之役，被蒙古生擒，差点亡国。御驾亲征的成功例子只有明朝的明成祖朱棣和清朝征葛尔丹的康熙大帝。即使是澶渊之盟名义上获取主动的宋真宗，也对寇准把自己推到兵临城下的危殆境地耿耿于怀，后来贬之外放。所以，帝王亲征，如此轻动确实最易招致危亡，而此危亡之始，最早起自苻坚。
东晋朝廷听闻苻坚倾国而来，也忙调谢石为征讨大都督，以谢玄为前锋都督，加上谢琰（谢安之子）、桓伊等将领的辖下兵马，共八万余人，倾力抗御前秦的来侵。因此，“北府兵”就成为东晋一方的战斗主力。
战争初期，前秦一方进展极其顺利。苻融等人一举攻陷东晋坚城寿春，俘虏了东晋平虏将军徐元喜、安丰太守王先。慕容垂攻陷郧城，杀晋将王太兵。秦将梁成也率五万劲卒，屯于洛涧，数败晋军。
晋廷闻报，忙派谢石、谢玄、谢琰、桓伊等人提军而来，相继赴前线抵拒秦兵。由于忌惮梁成兵盛，在离洛涧二十五里处，晋军皆停留观望，不敢前进。
东晋龙骧将军胡彬先是坚守硖石，很快粮尽兵瘦，只能天天假装运沙当粮来欺骗秦军自己还有吃食。私下里，胡彬派人送信于谢石等晋将，声称贼盛粮尽，并且表示自己恐怕没命再向朝廷复命了。送信人突围之后，没走多远，为苻融军队俘虏。苻融大喜，派飞骑驰告苻坚，表示“贼少易俘，但惧其逃逸，宜速进众军，一战而胜”。
苻坚阅信大悦，他害怕晋军主力不战先遁，就马上舍其大军于项城，自己只率八千轻骑倍道而行，直奔寿春。所有这一切，晋军方面一无所知。
但是，祸兮福兮，人算不如天算。东晋龙骧将军刘牢之忽现神勇，亲率五千劲兵，乘夜进袭秦将梁成大营，斩杀梁成等十名秦国大将，杀秦兵一万五千多人。
谢石等人一见梁成已败，也立刻胆气倍增，水陆继进，迎敌而来。
苻坚与苻融两人登城，见晋国部阵齐整，将士精锐，又北望八公山上草木都像人的形状（其实是晋朝会稽王司马道子害怕秦国，临时抱佛脚求拜钟山之神时用草及纸板扎成的人形木偶和仪仗鼓吹留在树木之间），苻坚开始心虚，转头对苻融说：“这些也是劲敌啊，怎能说他们人少呢？”
为了打心理战，他又派先前俘虏的晋将朱序前往晋营游说谢石等人投降。也真是天不佑秦，这朱序一过去就把苻坚军内的虚实全都告诉给谢石：“应该马上和秦军先头到达部队决战，如果挫其前锋，肯定可以成功。真的等秦国百万大军陆续到来，晋军根本就不是对方的敌手。”
当时秦将张蚝正在淝南大败谢石军，谢玄、谢琰将兵数万在淝水一侧接应，张蚝也不敢追，在淝水另一端列阵。
晋将谢石派使臣去通告苻融：“您大军深入，置阵临水，并不是持久之计。希望您稍稍后退一下，空出双方战士格杀战斗的空地，我与您立马观赏，不亦乐乎！”
苻融并非宋襄公那样食古不化的君王，此人也是能文能武的人中之龙，他本意是想乘晋军半渡入河之际引兵直击，在得到苻坚首肯后，他指挥军队往后移。
谁知这一却阵，朱序大叫“秦军败了”！秦军中的鲜卑、羌、羯等各族兵丁各怀鬼胎，转头就跑，再往后的军队根本就看不见前面发生了什么事，看见黑黑压压一帮溃兵洪水般压来，也扔下兵杖转身就逃。
苻融策马想阻止逃军，马倒被杀。秦军溃败涂地，晋军乘胜而前，苻坚自己也被流箭射中，单骑逃遁至淮北，风声鹤鸣，草木皆兵，秦军仓皇逃奔不止。晋军乘胜逐北，收复寿阳，并俘虏了前秦的淮南太守。
拨开历史的迷雾，淝水之战可能也算不上特别以少胜多的战例。苻融三十万军队西至郧城、东至洛涧五百里驻守，沿途还拨出几十万军队分别驻守要冲，九十万军队实际当时在淝水的估计也就十多万（秦军战线之长，前军已到阵前，中间都是队伍，最后的部队还刚刚从长安出发），反观晋军，本来就有八万精兵严阵以待，加之后来新加入的兵力，总共也有十万左右，加之以逸待劳，内部团结，特别是西晋灭亡后汉族士庶对北朝政权残杀屠戮的畏惧心理，都化为抵抗的同仇敌忾之意，兵力差不多的情况下，天时地利人和加上走大运的偶然因素，终使大英雄苻坚的一统天下的宏愿成为泡影！
让人百思不解的是，东晋宰相谢安因此战一举成名，无数诗词歌赋颂扬他，史书上却不见什么他排兵布阵的计策，只记得胜利消息送到后，谢太傅对下围棋的客人说了句“小儿辈遂破贼”，神情淡定，只是在进屋时内心狂喜而脚步过重，踩断了木屐的后跟。依愚所见，淝水之战东晋战胜的偶然性也很大，大运撞上了，取得莫名其妙的胜利。如果失败，谢安估计和“信口雌黄”的西晋宰相王衍一样，也会名士潇洒，国亡而不色变的。