蒙哥即位后，一方面承认了成吉思汗以来所封宗王的权力与地位，一方面处理了自己的反对派。窝阔台汗国不仅被一分为六，而且他们曾经掌握的8千军户也被剥夺了5千户。蒙古汗国的主要军力基本上掌握在蒙哥兄弟手中。他派自己的二弟忽必烈总领漠南汉地军民事，为南下伐宋做准备；不久又派遣同母弟旭烈兀西征木剌夷国和报达；其同母幼弟阿里不哥及庶弟木哥等则留在汗廷，成为他治理国家的左膀右臂。
元宪宗二年（1252）至元宪宗三年间，蒙哥大汗任命他的另一兄弟旭烈兀率军西征。从东西大军中每10人抽2人拨归旭烈兀。并派自己的一名幼弟去跟随他，还从拔都的钦察汗国、察合台汗国以及驸马、诸王那里“调集一队将官”；又派人到中国北方“去取射石机和火油投掷手”，让他们“派来一个炮手、火焰放射手、弩手的汉人千人队”。进攻的主要目标是中东地区的两个宗教政权：阿剌模忒的亦思马因派王国——木剌夷和报达的阿拔斯王朝哈里发教廷和叙利亚等地。
元宪宗二年（1252）秋，由出身乃蛮部的怯的不花率领先锋军出发；第二年十月，旭烈兀率西征主力西进。元宪宗五年（1255）九月，抵达撒马尔罕。第二年初，渡过阿姆河，向伊朗推进。
灭亦思马因派的木剌夷国亦思马因是古代伊斯兰教什叶派的一支，源自阿里的后裔、第5代教长之长子亦思马因。其子摩诃末继续传教，形成了一个特殊的教派。11世纪初，此派的传教士哈散撒巴到波斯传教，占据了里海以南的阿剌模特堡及其周围的360余座山寨，建立起一个与黑衣大食匹敌的伊斯兰强国——木剌夷。《世界征服者史》称其为“异端的诸堡”，《史集》称其为“邪教徒”，正统的伊斯兰教徒也称他们为“异端”。蔡美彪先生主编的《中国通史》第7册说“木剌夷经常出外暗杀和抢掠财物，在波斯诸大城中造成恐怖。蒙哥随从拔都西征时，已经得知木剌夷的祸患，决意把他们消灭”。由此可知，木剌夷国是由古代的恐怖分子组成的一个特殊的宗教国家，他们用特殊的手段培养刺客，令其刺杀“未服之国”的国主，包括周围的伊斯兰国家，也包括蒙古汗国。正由于此，正统的伊斯兰教派国家黑衣大食视其为邪教、异端，蒙古汗国的大汗蒙哥则命令旭烈兀把他们“统统杀死”。成吉思汗西征时，木剌夷曾经投降了蒙古军队。但成吉思汗撤军后，它又宣布独立。此时的木剌夷国王阿剌丁既昏庸无能，又刚愎自用，国内一片混乱，其子鲁克鲁丁忽儿沙杀父篡位。当旭烈兀的大军到达时，鲁不鲁丁派人假意向旭烈兀表示投降和效忠，旭烈兀一方面与之周旋，一方面加紧了进攻的准备。元宪宗七年（1257）初，鲁克鲁丁被迫投降，被遣送和林，途中被杀，木剌夷国灭亡。
推翻阿拔斯王朝阿拔斯王朝即伊斯兰教逊尼派在报达（巴格达）建立的另一个宗教国家，中国史籍上称其为“黑衣大食”，其国王是伊斯兰教的名义领袖哈里发。当时已经传到第36代，正是哈里发谟斯塔辛统治时期。此时的阿拔斯王朝已经日趋衰落，所辖领土仅有伊拉克阿拉伯一带。其首都报达位于底格里斯河与幼发拉底河之间，地处东西方的交通要道，既是伊斯兰各国的政治文化中心，又是一座繁荣的商业城市。
元宪宗七年（1257）九月十日，旭烈兀派急使到哈里发处劝降，经过反复交涉，哈里发仍然不肯出城投降。同年十一月，旭烈兀指挥蒙军分三路包围了报达。第二年二月十日，哈里发带领3个儿子和大臣出城投降。二月十三日，蒙古军队进城，“开始挨家挨户掠夺和屠杀”，死亡人数据说高达9万人（一说为数10万）。旭烈兀逼迫哈里发交出了暗藏的财宝，并下令运走了巴格达积累500年的财产。二月二十日，旭烈兀下令处死哈里发谟思塔辛，任命阿里八都儿为报达长官，阿拔斯王朝黑衣大食灭亡了。
元宪宗九年（1259）九月，旭烈兀按原定计划开始了对叙利亚和埃及的征服战争。第二年攻陷阿勒颇和大马士革。由于蒙哥死讯传来，旭烈兀将前线军事委托给大将怯的不花，自己返回蒙古。埃及算端调其主力在大马士革以南的阿音扎鲁德与蒙古军队决战。蒙军先胜后败，其主将怯的不花被杀，蒙军几乎全军覆没。埃及军队乘胜夺回阿勒颇和大马士革，叙利亚全境及幼发拉底河以外尽归埃及所有，从此双方展开了多年争战，但蒙古军队始终未能征服埃及。