东晋穆帝永和五年（349），后赵大魔头石虎病死，境内大乱。桓温闻此，立刻屯军安陆，准备北上收复中原。
东晋朝廷内部，当然不愿桓温再立殊勋。褚太后的父亲、大名士、征北大将军褚裒当时镇京口，“上表请伐赵，即曰戒严，直指泗口”。这位国老也想效仿桓温，拜表即行，欲趁后赵大乱去捡大便宜。
画虎不成反类犬。代陂一战，褚国丈派去北上接应鲁郡归附民众的二将全军覆亡。一腔豪气的褚国丈连忙退至广陵，致使渡过黄河南迁的二十多万汉人百姓全被追赶上的胡人诛杀殆尽。羞愧惭恨之余，大名士病忧死于京口，时年四十七。褚裒当大名士可以，打仗却完全是个外行。
至此，东晋朝廷仍不给桓温机会，反而于350年委任与会稽王司马昱私交甚好的殷浩为都督扬、豫、徐、兖、寿五州诸军士，统军北伐。
当时的中国北方四分五裂，羯族、鲜卑、冉魏、姚襄、苻健等人相互攻杀，东晋朝野上下都认为可以趁机恢复中原，兴复大晋。唯有光禄大夫蔡谟是个清醒明白人，他说：“胡人灭亡确是大庆，但恐怕使朝廷生出更大的忧患。”旁人问及原因，蔡谟回答：“能顺天乘时救济苍生万民的，非上圣与大英雄不能为也。观今日之事，诸位时贤都不度德量力，皆想乱中立功，必将各自经营，疲民耗国，最终财殚力竭，智勇俱困。”
以后的事实，不幸皆为蔡大夫一一言中。
殷浩，字深源，“弱冠有美名，尤善玄言”，是位谈吐不凡的大清谈家。此人广负盛名，年轻时一直称疾不做官，当时的名流人士却嗟叹：“深源不出，奈苍生何！”（谢安不出，大家也说：“安石不出，奈苍生何！”）吊起来卖了十多年，会稽王司马昱才“哀求”多次，把殷浩请出来做官，而且一做就是扬州刺史这样的大官。其实，庾翼就曾对人讲过：“（殷浩）此辈应束之高阁，候天下太平，然后议其任耳。”此议，真有鉴人之明。
眼见中原鼎沸，志大才疏的殷浩在司马昱支持下，很想一显身手，博他个青史流芳，兴冲冲提兵北伐。“将发，坠马，时咸恶之。”出发时飞跨上战马，殷浩就摔了个大马趴，军中上下皆以为是不吉之兆。
果然，殷浩手下兵将虽多（有七、八万之众），但他自己缺乏统领的才能。殷浩名士，加之又有知识分子猜忌狭隘的本性，逼反了本来降晋的羌酋姚襄（姚弋仲之子。后赵灭亡后，姚氏父子向东晋投降）。使得这只盟军掉头来攻晋军，殷浩手下多员大将被杀，士卒亡叛，器械军储也多为姚襄所获。至此，大言北伐，折腾了近四年，损兵折将，殷浩灰溜溜不知如何下台。
一直憋气的桓温趁机狠狠参了殷浩一本，讲他“神怒人怨，众之所弃，倾危之忧，将及社稷”。东晋朝廷也不得不听从桓温之议，废殷浩为庶人，徙于东阳偏僻之地。
桓温既逐殷浩出朝，心中得意，对左右人讲：“小时候我与殷浩玩竹马游戏，我每次骑完丢弃，殷浩总会捡起来玩，故而他应当在我之下。”
殷浩虽遭罢官出放，倒仍持大名士姿态，谈咏不辍，故作夷然，常常在空中以手写“咄咄怪事”四字，估计是自己和自己叫劲。不久，桓温念起童稚之谊，认为殷浩“有德有言，足能作令仆之官”，想推举他重新入朝作中书令，并派人送信告知。
殷浩接书，高兴得几近失态，马上写回信言谢。唯恐书信中哪个字哪个词写得不达意，得罪桓温，殷浩“开闭者数十”，信封开了封，封了开，最终送到桓温手上的竟是一封空函，气得桓温大骂“不识抬举”，命人把殷浩“永远禁锢不用”。一代大名士，郁郁死于乡下。
现在说起“玄学”，似乎总是贬大于褒。其实，玄学产生于汉帝国崩溃的时代，正是那个礼崩乐坏的时期，士人们对于儒家伦理开始产生了深刻的怀疑，想从哲学高度找寻真正的“世界本体”。“五四”以后，学者刘师培对于玄学有比较客观的阐释：“两晋六朝之学，不滞于拘墟，宅心高远，崇尚自然，独标远致，学贵自得……虽曰无益于治国，然学风之善犹有数端……”玄学的思辨精神，对于“谈中之理”、“理中之谈”、“谈中之谈”等进行了深刻地弘扬，讨论宇宙、人格本体，而且，其中最重要的“才性问题”、“有无问题”、“言意问题”、“有情问题”、“一多问题”是中国哲学史上非常关键的哲学命题，体现了当时学人对自然和无限的深情追求。当然，渐渐地，玄学也成了统治阶级无聊的游戏，尤其是日后佛学和玄学合流后，玄学日益消解为茶余饭后的谈资。
殷浩一废，“内外大权一归（桓）温矣”。于是，东晋穆帝永和十年（354）三月，桓温自统四万军出江陵，水军舰队也同时自襄阳入均口，开始了他第一次北伐。此次北伐的目标是351年在关中称天王的氐酋苻健。苻健建国大秦，史称前秦。
桓温出师顺利。晋军前军分别攻取上洛（陕西商州）和青泥（陕西蓝田）。晋将司马勋也从梁州出子午道伐前秦，前凉的秦州刺史王擢也配合桓温进攻前秦的陈仓（陕西宝鸡）。
前秦主苻健大惊，忙遣太子苻苌等人率五万军士在峣柳（今陕西蓝田附近）结营，以迎战桓温。
苻健的儿子苻生虽是独眼龙，却骁勇异常。蓝田一战，他“单骑突阵，出入以十数，杀伤晋将士甚众”。
桓温不为所惧，亲自于军前督阵，终于大败秦军。不久，桓温之弟桓冲又在白鹿原（今陕西蓝田以西灞河附近）大败前秦丞相苻洪。
势如破竹之际，桓温率晋军连战连捷，于354年5月一直攻至灞上。大敌当前，前秦太子苻苌等人退守城南，苻健本人与老弱几千残兵固守长安小城，于城前开挖深濠，悉遣精兵三万外出，与苻苌合兵，只求能守住长安。
假若桓大英雄马不停蹄，径攻长安，凭锐气利卒，有百分之九十的可能会一举击灭前秦苻氏，收复中原。但不知为何，善出奇兵的桓温忽然持重起来，屯兵固垒，观望待变，总想等长安城内有人接应，可兵不血刃地克复坚城。
当是时也，“三辅郡县皆来降。（桓）温抚谕居民，使安都复业，民争持牛酒迎劳，男女夹路观之”，一派大好景象。关中耆老纷纷垂泣，哽咽说：“不图今日复睹官军！”
因战乱一直隐居华阴山的豪杰名士王猛，听闻桓温入关中，“披褐谒之，扪虱而谈当世之务，旁若无人”（“扪虱而谈”，也是魏晋风度标志之一）。
桓温对王猛为人深加叹异，便问王猛：“我奉天子之命，将锐兵十万（其实不到四万）为百姓除残贼，而三秦豪杰未有至者，何也？”
王猛回答：“明公您不远数千里，深入敌境，今距长安咫尺之遥而不渡灞水进攻，百姓不知您到底想些什么，故而没有前来投附。”
桓温默然久之，然后，答非所问地讲了句“江东没有您这样的人物”，给王猛封了个“军谋祭酒”的散官，打发了事。
各种史书，均认为桓温当时伐秦的初衷是想以功名彰显朝廷，树立己威，并非想真的恢复中原。笔者认为，当时的桓温私心未著，只是因为兵力太少而缺乏信心所致。关中秦兵彪悍，不似蜀人易克，也使桓温起了“持重”之心。但人谋过深，常常会招致相反的结局。果真当时桓温就有立威谋篡的私念，大可一克长安，再挟胜威回江东取帝位。
本来，桓温自恃关中即将麦熟，军粮无忧，不料前秦派人四处芟麦，坚壁清野，使得晋军立时产生了断粮乏食之忧。
喘息已定，前秦各军也纷纷反攻。苻雄与桓温再战白鹿原，晋军不利，被杀一万多人。桓温回撤，前秦太子苻苌一路追击，又令晋军损失上万军卒（苻苌本人却中流矢而死）。司马勋、王擢两部晋军也屡遭败绩，分别逃往略阳和关中。不久，王擢又向前秦投降。
桓温撤退前徙关中汉人三千多户随军归江东，又拜王猛为高官都护，“（王）猛辞不就”。10月，桓温回军襄阳。
此次北伐，大胜中败，收获不大。