桓温枋头大败后，拉不出屎来赖茅房，诿过于人，上表朝廷说是因为袁真没有打开石门水路，才使晋军丧失了水上退路，要朝廷治其罪。袁真当然不服，认为桓温诬陷自己，也上疏“表（桓）温罪状”。晋廷不置可否。桓温虽败，军政大权仍齐集手中，故而晋廷根本不敢表态。袁真一怒之下，踞寿春城向前燕投降。
桓温怒极，提兵而进，费了近一年时间，才于太和六年（371）重新收复寿春，当时袁真已病死，桓温就杀掉了袁真的儿子袁瑾及其主要谋士朱辅等人。
攻克寿春之后，桓温问其参军郗超：“此役足以雪枋头之耻乎？”
郗超是桓温肚中蛔虫一样的最亲密的心腹，当然知道主公有言外之意。不久，两人夜中密谈，郗超说：“明公当天下重任，今以六十之年，败于枋头，未建不世之勋。假如您不能行大事，不足以震慑四海民心。”
“我又能怎么办呢？”桓温明知故问。
“明公您不行伊尹、霍光之事（意即废旧帝立新帝），就不能树立威权。”
桓温连连点头。本来他是想北伐得胜后，即返江东受九锡，然后取晋以代。不料大败而回，九锡谈不上，篡晋的步骤也不得不放慢下来。思来想去，也只能走废掉皇帝司马奕这一步棋。
司马奕也倒霉。此位皇帝即位未久，一直礼敬桓温，行政之权也多在会稽王司马昱等大臣之手，无甚过错。要说有错，也就错在他坐在皇帝的位子上。
公元371年11月，桓温“以帝素谨无过，而床笫易诬”，就报称司马奕一直是阳萎没有性功能，在藩王位子时与内宠相龙、计好、朱灵宝三人搞同性恋，称司马奕与嫔妃所生的三个儿子其实是那三个男相好的种，并称司马奕欲立这几个“杂种”为皇嗣“建储立王，倾移帝基”。同时，桓温、郗超还派人在民间散布小道消息，朝野议论纷纷，莫知真伪。
公元371年年底，桓温亲自率兵还于建康，派人给禇太后捎话，要废掉司马奕，立元帝少子、会稽王司马昱为帝，并把已经以皇太后名义写好的诏书底稿送呈褚氏。
当时，褚太后正在佛堂拜佛，见人送上大司马“急奏”，连忙起身，依着佛堂门随便看了几眼，对来人表示：“我本来就怀疑有此事。”这位太后深知晋室不兴，权臣势重，司马奕又非自己亲生，阻止也无济于事，不如顺水推舟。褚太后提笔在诏草上写下数字：“未亡人（褚后自称）罹此百忧，感念存没，心焉如割。”意即表示赞同废立之举。
古代中国，废立皇帝是天大的事情，桓温权力再大，也要走太后这道“手序”。送呈诏草之前，桓温还怕褚太后有异议，“悚动流汗，见于颜色”。看见诏书被褚太后签字批准，桓温大喜。
公元371年阴历十五乙酉，桓温集百官于朝堂，宣示太后的废立之诏。在晋代，先前还没有经历过这样的事情，“莫有识其故者，百官震慄。（桓）温亦色动，不知所为”。这下倒好，大事决定下来，废立程序没一个知道。倒是尚书左仆射王彪之知道其事不可逆转，就建议按照《汉书》中霍光废昌邑王立汉宣帝的故事，现取《汉书》现“取经”，宣太后诏令，废司马奕为东海王（过了一年又降为海西公），以会稽王司马昱继承皇统，是为简文帝。
废帝司马奕“著白帢单衣，步下西堂，乘犊车出神兽门。群臣拜辞，莫不歔欷”。可见司马奕这位皇帝人缘还不错。这位废帝很快被送到吴县严加看管，咸安二年年底，有人诈称有太后密诏，奉迎司马奕起事还宫复位。司马奕起先还有所动，幸亏一直跟随他的保姆劝谏，他没敢轻举妄动。前来准备劫持司马奕当幌子起事的人很着急，说：“大事将捷，怎能听信女人之言呢？”废帝回答：“我得罪于此，幸蒙朝廷宽宥，怎敢妄动。假如太后有诏使我复位，应有宫使来，怎么只有你一人无凭无据来此，定是你们想作乱。”来人见事泄，赶忙逃走。从那以后，司马奕更是“深虑横祸，乃杜塞聪明，无思无虑”，终日酣饮，有宫人生下孩子，皆派人即时淹死，以求保得余年。由此，这位废帝还算命好，又活了十五年才病死，时年四十五。
一不做，二不休。桓温废掉司马奕后，又奏称简文帝的哥哥武陵王司马晞与其子和袁真通谋，欲行不轨，免掉其太宰之官，废放于家。此外，桓温又恨殷、庾两家人在朝中势大，迫使宗室新蔡王司马晃“自首”，牵告殷浩之子殷涓及庾亮之弟庾翼的三个儿子庾蕴、庾冰、庾倩等人谋反，并族诛了涉案诸人。
殷浩少与桓温齐名，成年后两人争权，殷浩失败，于乡下郁郁病死。桓温派人吊祭，殷涓不答，得罪了桓温。但庾氏一族自庾亮和桓彝起就与桓氏子一辈父一辈的老交情，庾翼又曾在关键时刻向晋明帝举荐过桓温，诛除庾氏一家数支人户，老英雄未免做事有些过绝了。
“大事”行毕，桓温废立杀人之事果然收到大成效。侍中谢安远远望见桓温，忙下跪拜礼。桓温见大名士此举也吃惊，忙问：“安石，你怎么向我行如此之礼？”谢安答：“未有君拜于前，臣揖于后。”可见，连谢安当时都把桓温当皇帝来拜了。
桓温的参军郗超官职虽不高，但朝中诸臣知道他是大司马的智囊，“皆畏事之”。谢安曾与左卫将军王坦之一起前往郗超府中拜会，由于巴结奉承的人多，两人从早晨等到中午，还轮不上被接见。王大少爷忍耐不下去，想乘车离去。谢安急忙抓住王坦之的袖子，哀求说：“难道你就不能为了宗族性命再忍耐片刻吗？”
新被桓温拥立的简文帝司马昱，字道万，是东晋元帝的小儿子。此人“少有风仪，善容止，留心典籍，不以居处为意，凝尘满席，湛如也”，是个貌美儒雅的玄言大家。如此之人，虽神识恬畅，却无济世勇略。所以，登帝位后，司马昱“常惧废黜”，只是做个皇帝幌子而已。谢安对这位影子皇帝评价甚恰当，认为简文帝是惠帝之流，只不过是清谈方面比惠帝略胜一筹罢了。
简文帝没什么福分，当皇帝才一年多，就病入膏肓。弥留之际，晋廷一日一夜发四道急诏，召桓温入朝辅政。“（桓）温辞不至”。无奈，简文帝强撑病体，亲自写信给桓温，让这位大司马“以周公居摄故事”代理朝政，并表示“少子可辅者辅之，如不可，君自取之”。
倒是侍中王坦之截留此信，在简文帝床前亲手撕碎，表示：“天下乃宣帝、元帝之天下，陛下您怎能想给谁就给谁？”简文帝知道王坦之一片忠心，就让王坦之把诏书内容改为如下：“家国事一禀大司马，如诸葛武侯、王丞相（王导）故事。”嘱托完毕，简文帝于当日病逝，时年五十三。
当时，朝中群臣还不敢马上拥立太子司马昌明为新帝，想等桓温还朝后再做决定。尚书左仆射王彪之临危决断，认为天子崩、太子代立是天经地义之事，马上拥立年幼的司马昌明为帝，是为孝武帝。褚太后本来已下了命桓温行周公居摄故事的诏书（即任桓温为“代理皇帝”），也被王坦之谏阻。
桓温方面，一直想当然认为简文帝临死会把皇位主动禅让给他，即使不然，也会以周公之礼居摄朝政。结果，读毕简文帝遗诏，知悉二事都不成，太子已经嗣位，桓温怒极。他认定是王坦之、谢安从中作梗，深恨二人，形于颜色。
孝武帝宁康元年（373）三月，桓温提军入朝建康。当时，都城内人情汹汹，都盛传桓温入京要诛王、谢两族，并移晋鼎，取而代之。
听说传闻后，王坦之惊惧异常，谢安坦然自若。晋廷下诏，命百官郊迎大司马桓温于新亭。王坦之害怕性命难保，想推辞不去。谢安劝道：“晋祚存亡，决于此行。”
桓温至新亭，晋廷“百官拜于道侧”。桓温大陈兵卫，依次接见百官，“有位望者皆战慄生色”，王坦之“流汗沾衣，倒执手版”，只有谢安一人“从容就席”。
众人坐定，谢安果真是有名士风范，他笑对桓温说：“我听说诸侯有道，守在四邻。明公您何须在周围墙后安排那么多兵士呢！”
桓温也为谢安怡然之态而折服，笑着回答说：“不得不这样作呀！”便命左右撤去壁后手持利刃的军兵。
谢安曾经在桓温手下为官，为大将军司马，两人算是“老朋友”。至此，二人谈天说地，忆旧言朋，笑语移日。
晚间，桓温独召谢安、王坦之两人，商谈国事。郗超依桓温安排躲在屋中卧帐里偷听三人谈话。风吹帐开，一眼瞥见郗超撅着屁股凝神偷听，谢安笑道：“郗生可谓入幕之宾呵。”
正是由于谢安等人的镇定、从容，在外有强臣、内有幼主的危乱局面下，晋室得以保存。
在建康停留了十四天，桓温旧疾复发，便拥兵返回老巢姑孰。疾笃之时，桓温不停派人示意朝廷加九锡给他，很想临死前过一把皇帝瘾。
谢安、王坦之两人不敢直接回绝，便命袁宏起草加桓温九锡的诏命。袁宏草就，给王坦之看。王坦之叹其文笔华美，但表示：“卿固大才，安可以此示人！”谢安见到诏草，也胡乱改易，故而诏命一直发不出去。袁宏渐渐看出端倪，就密问王坦之到底要怎样做。王坦之说：“听说桓温病势一天重过一天，估计拖延不了多少时间，九锡之诏，能拖就拖。”
诏命一拖再拖，桓温却等不到看见“九锡”了。公元373年阴历七月乙亥日，桓大将军病死姑孰，时年六十二。晋廷以霍光之礼葬之，追赠丞相。
桓温死前，以其弟桓冲袭领其众。桓温世子桓熙和弟弟桓济不服，想谋杀叔叔桓冲。桓冲事先知其谋，秘密逮捕了这两个无才无能的侄子，表奏桓温幼子当时年仅六岁的桓玄为桓温之嗣，袭封南郡公。
桓温有六子。桓熙、桓济杀叔不成，送至长沙囚禁，“无期徒刑”；第三子桓歆早死；第四子桓祎生下来就是个傻子；“不辨菽麦”；第五子桓伟忠厚诚实，为官清明，历任安西将军、荆州刺史等职，三十岁左右病死；袭爵的第六子桓玄最有名，曾一度称帝，但最终也导致了桓氏宗族族诛的结局。
桓冲虽为桓温之弟，温良敦厚，并自请解去要职，外任扬州，把朝中大权让给谢安。后来，苻坚南侵，晋朝降将朱序当初就是桓冲所保举。朱序降秦，桓冲就“惭耻不安”，淝水大战，朱序又临阵大叫“秦军败了”，立功又回晋朝。桓冲为此更是惭恨，加上一直身体多病，竟在东晋大胜之时，发病而卒，时年五十七。晋廷赠桓冲太尉，谥宣穆。厚道好人，也算善终。
史载，桓温病重时，桓冲问大哥死后如何“处置”谢安、王坦之。“（桓）温曰：‘渠等不为汝所处分。’”由此，史官们又自以为是地认为：桓温以为自己活着，王、谢诸人肯定不敢立异；桓温死后，王、谢又非桓冲所能畏服。如果杀掉王、谢诸人，于桓冲无益，更失当时之望——如此猜想，完全是把桓温当成一个逆臣来推想。
人之将死，其言也善。桓温最后也是英雄老去，含忧而逝。假使他真有必篡之心，如司马师、司马昭之流，肯定会杀掉谢安诸人。政治角力场上，权势相随，人在人情在，人都杀掉了，“时望”又奈我何！但历史不能假设，我们只是应该以公忠立场认定桓温终以大局为重，为东晋保留了重要的政治人才。否则，日后苻坚大帝百万大军来敌，就没有谢安石“为君谈笑静胡沙”了。
总是自标正统的封建史臣，对于桓温伐蜀以及他第一、二次北伐的历史功绩，都还表示钦赞：
桓温挺雄豪之逸气，韫文武之奇才，见赏通人，夙标令誉。时既豺狼孔炽，疆场多虞，受寄干城，用恢威略，乃逾越险阻，戡定岷峨，独克之功，有可称矣。及观兵洛汭，修复王陵，引旆秦郊，威怀三辅，虽未能枭除凶逆，亦足以宣畅王灵。
桓温本性节俭，虽权侔帝王，每次饮宴，“惟下七奠柈茶果而已”。这位大将军，生平只佩服两人，一是西晋未期在并州地区抵抗强胡的刘琨，另一位就是已故大将军王敦。第一次北伐后，桓温在北方带回一个“巧作老婢”，是刘琨从前的府中歌妓。这老太太一见桓温，便潸然泪下。桓温问其原因，老太太答道：“您长得很像刘司空。”桓温大喜，回屋整装束发加冠，打扮齐整，又把老太太叫来欲问其详。
“面甚似，恨薄；眼甚似，恨小；须甚似，恨赤；形甚似，恨短；声甚似，恨雌。”老太太真逗，言语之间，竟也有晋人深刻的幽默感。
桓温闻言，“裭冠解带，昏然而睡，不怡者数日”。由此大英雄失望之态，可见其真率之情。
晚年，桓温经过王敦之墓，心中感慨，连称王敦：“可人！可人！”
王敦、桓温两人，有许多相似之处：同是少年英武，同是尚主驸马爷，同为大将军，同是豪爽英武，同是功业不俗，同是晚年有篡夺之心，同是大业不成、忧病而死。因此，史臣把两位“大将军”同列一传，也自有其正史之理。
最可惜的是，桓大将军既未能开基建业而流芳百世，亦没能篡夺人国而被骂名千载。曹操、司马懿、高欢死后，还能在地下做开国皇帝。桓温呢，只吃过两年多“宣武皇帝”的冷猪肉，整个家族就因桓玄的灭亡而烟消云散，悲夫！