军政大权在握，加之本性英武，桓大将军渐有代晋的“非分”之想。平日无聊，他常卧对亲僚讲：“为尔寂寂，将为文景所笑！”意思是不举大事默默无为，曹丕、司马师那样的篡国俊杰，将会在地下笑话他这位活人。众人惶恐不敢应对，面面相觑。桓温扶枕而起，朗言曰：“大丈夫不能流芳百世，亦应骂名千载！”由此，可见其雄豪不臣之心已不可自抑。
桓温武人，总想以军功树威，他一直思忖着要北上再打个大胜仗，回江东后再心安理得地夺取司马家皇位。但人算不如天算，战场上风云突变，胜负决于呼吸之间，不是想打胜仗就能打胜仗，天时地利人和，缺一不可。
当时，中原形势对晋朝讲很不乐观。前燕和东晋在许昌经过几次拉锯战之后，最终丢掉了这一重镇。兴宁年间，淮阳一带也失守。最后，洛阳城守将见孤城难守，找个借口自己带兵逃离，只留下沈劲一人带区区五百人守城。（《江南罡风吹浮萍》一文交待过，沈劲是王敦“逆党”沈充之子，一直想以身殉国挽回家族声誉，他就等着这种“光荣”的机会。）公元365年，前燕名将慕容恪、慕容垂兄弟率兵进攻，洛阳自然苦守不住，沈劲死节。不久，鲁郡、高平、宛城又接连被前燕军队攻取，燕军甚至攻掠到汉水以北地区，大掠而去。
海西公太和三年（368），晋廷加大司马桓温殊礼，位在诸侯王之上。转年五月，桓温自领徐州、兖州刺史，率步骑五万，从姑孰出发，进行他的第三次北伐。
七月，桓温行至金乡，由于天旱水绝，水路不通，他使属下将军毛虎生派人在钜野凿河道三百里，引汶水与清水交汇，大小军船相继，连绵数百里。
桓温手下最重要的谋士郗超献计，说：“清水入河，难以通运。如果敌人相持不战，运道断绝，那样就会陷入危境。我们现在不如率全军直驱邺城，鲜卑敌寇畏惧明公威名，必望风逃溃，远遁辽碣之地。假若他们敢近战我军，大事也可立见胜败。如果燕军坚守不出，四周百姓皆会为我军所用，易水以南尽在我们掌握之中。”
桓温摇头。一战而决胜负，桓温认为过于轻率，不敢尝试。
郗超又献计：“我们还可以屯兵于黄河、济水一带，控引漕运，待资储完备，明年夏天再进兵。”
桓温又摇头。他恐怕时间久长，燕军四处得以严备，师出无功。
郗超也很忧虑：“舍此二策，连军北上，进不能速决，退必遭阻遏。如果鲜卑与我军不战相持，渐至秋冬，供运输军需的河道冻结，后勤难以保障。而且，北土早寒，我军将士又无裘褐厚装，到时难免饥寒。”
不知何故，一向深谋远虑的桓温对郗超的建议皆不纳。
桓温继续北上，开战皆捷，湖陆一战（今山东鱼台），擒燕将慕容忠；黄墟一战（今河南开封以东），大败燕将慕容厉两万劲骑；林渚一战（今河南新郑），又败燕将傅颜。不久，燕国高平太守举郡投降晋军。
八月，桓温屯军于武阳（今山东莘县），由于当地人起事接应，桓温很快抵至枋头（今河南浚县）。前燕国主慕容暐及太傅慕容评大惧，吓得商议要逃奔燕国故都和龙（今辽宁朝阳）以避桓温军锋。
前燕上下惶惧之时，吴王慕容垂自告奋勇，表示：“请命臣率众击之，如果不胜，走未晚也。”
慕容暐还能当断即断，以慕容垂为南讨大都督，率兵五万以抵拒晋军。同时，前燕又派使臣往前秦请救兵，并答应割虎牢以西之地给前秦作为酬谢。
此时，前秦已是苻坚代苻生自立为帝，他引王猛等众臣于朝堂，商议对策。前秦大臣多表示：“从前桓温攻伐我们，燕国不救；现在桓温伐燕，我们也袖手旁观。”
王猛有远谋，他密劝苻坚说：“燕国虽强，但远非桓温对手。一旦桓温进屯洛阳地区，收幽州、冀州之兵，引持并州、豫州的粮粟，肯定会再攻关中，那时我们就大势去矣。所以，不如现在与燕国合兵以拒桓温。桓温败走，燕国也丧元气，到时我们再趁机图之！”
苻坚对王猛言听计从，派军二万前去支援前燕。
桓温逡巡观望，耽误了大好时机，一切皆如郗超所料——先前开凿的水道（桓公渎）因为干旱水位下降，不能再凭此水道运粮。晋将袁真又没能如期打通石门（汴口），此条水路也断绝。延至十月，燕将李邽又率兵切断桓温陆路粮道。
至此，整个战事开始向燕军一方倾斜。
燕将慕容宙率一千骑兵与晋军相遇，他对属下说：“晋人轻剽，怯于陷敌，勇于乘退，应先佯败诱使他们来进击。”
果然，两百多燕军骑兵前来挑战，打了一会儿就佯装败逃。晋军随后猛追，正陷慕容宙埋伏圈，一战就损失几千人马，“军人夺气”。
接连下来，桓温数军皆败，粮储不接，听闻前秦援军又要赶到，无奈之下，他只得下令焚毁舟船，尽弃辎重铠仗，从陆路急行军撤退。
桓温从东燕（今河南汲县）出仓垣，沿途也不敢喝河水，怕燕军下毒，每每派兵士凿井取饮。又累又饿只有一大肚子水饱的晋兵仓皇回逃，日夜兼行，七百里马不停蹄。
燕将个个摩掌擦拳，自告奋勇要追杀晋兵。
燕国吴王慕容垂老谋深算，说：“现在不可急追。桓温撤兵惶恐，必严设后备，挑选精锐军士殿后，回击有准备之军，不易得手。晋兵昼夜疾趋，心中必庆幸我们没有发兵追及。等他们跑累了，力尽气衰之时，我们一举攻击，肯定大胜。”
于是，慕容垂不慌不忙，亲率八千精骑行蹑于晋军之后，一路尾随。数日之后，思忖晋兵已力乏，慕容垂忙下令：“可以直击桓温军队！”
于是，燕兵个个扬缰跃马，手持利矛，在襄邑（今河南睢县）追及晋军。晋军惶急之下，起先还挣扎抵抗，不久，先前回到襄邑东涧的燕国范阳王慕容德四千伏兵也忽然而起，大叫杀至，双方夹击，大破晋军，斩首三万余级。逃至谯郡，桓温军又遭燕将苟池截击，又损失上万人马。
其实，早在桓温失败之前，前秦两位大臣之间的对话中，早有人预料到日后的结局。前秦太子太傅封孚问另一位大臣申胤：“桓温士众强整，乘流猛进，今大军逡巡高岸，兵不接刃，结果会如何呢？”申胤答道：“从桓温现在的势头，似乎大有可为。但以我的观点，他必定不会成功。因为晋朝皇室衰弱，桓温专制其国，晋廷朝臣未必和他同心。所以，桓温得胜，是晋臣不愿见到的结果，一定会千方百计阻挠其事。同时，桓温骄而恃众，怯于应变，以大军深入，放着好机会不加以利用，反而持重观望，欲图不战而取全胜。如果日后晋军乏粮，军心摧沮，肯定会不战自败。”申胤一席话，几乎是百分百预言了枋头之役。因此，内部之间的三心二意不团结，是东晋群臣一直不能北伐胜利的最关键因素。
11月，桓温收集散余兵士，在山阳（今江苏淮安）屯军，稍稍才能喘口气。此次北伐，就以桓温的完全失败而告终。
大军显败而还，晋帝仍派人携牛酒至山阳犒军，并遣会稽王司马昱于途中迎接桓温。祸不单行，桓温之妻南康公主不久也病逝。
桓温郁闷至极，深以枋头之败为耻。同时，他差遣百姓大筑广陵城，自己率军移镇其中。由于屡起兵役，又加上瘟疫流行，百姓困苦，死者近半，一时间远近嗟怒，桓温威望渐损。