《元史》卷119《博尔忽传》说：“初，金山南北，叛王海都、都哇据之，不奉正朔五十年，时入为寇。尝命亲王统左右宗王诸帅，屯列大军，备其冲突。”自从蒙哥继位之后，以海都为代表的窝阔台后王就一直与蒙古汗廷对立。忽必烈继位后，海都等人先是参加了阿里不哥反对忽必烈的战争，阿里不哥投降后，他们仍然与元朝处于战争状态；直到忽必烈去世，北方叛王问题仍没有最后解决；元成宗继位后，他们仍然“不奉正朔”，即不承认元成宗的正统地位。元成宗之所以将晋王甘麻剌、安西王阿难答、宁远王阔阔出、驸马阔里吉思以及名将、名臣土土哈、床兀儿父子、玉昔帖木儿、月赤察儿等派往北方，正是为了对付海都等北方叛王。
元贞二年（1296），海都、都哇内部分裂。这年年底，阿里不哥之子玉木忽儿以及兀鲁思不花、大将朵儿朵哈等率12000军队投归元朝。为此，元成宗于第二年二月将元贞三年改为大德元年（1297），并特意颁发《大德改元诏》，其中说：“朕荷天地之洪禧，承祖宗之丕祚，仰尊成宪，庶格和平。比者玉木忽儿、兀鲁思不花、朵儿朵哈等去逆效顺，率众来附，毕会宗亲，释其罪戾。适星芒之垂象，岂天意之儆予。宜规一视之仁，诞布更新之政，可改元贞三年为大德元年。”欢迎叛王“去逆效顺，率众来附”，希望能够早日达到天下“和平”，正是元成宗改元“大德”并布告天下的深意。
大德改元不久，钦察王子名将土土哈病死，其子床兀儿承袭父职，领兵西逾金山，进攻海都占有的八邻部之地，大败敌军。大德三年（1299），都哇实行突然袭击，宁远王阔阔出失于防备，致使驸马阔里吉思孤军应战，求援不及，战败被俘。元成宗以阔阔出驭军失律将其撤换，改令其二哥答剌麻八剌长子海山总领漠北诸军，在老臣月赤察儿和床兀儿协助下讨伐北方诸王，同时责令玉木忽儿等领兵自效。都哇在撤军途中与玉木忽儿等遭遇，被玉木忽儿等打得大败。
大德五年（1301），海都率窝阔台、察合台系后王40余人大举东犯，海山与月赤察儿等率大军“五军合击”，与海都等决战。海山率军先与海都战于和林北迭怯里吉之地，海都被打败。两个月后，海都悉率其众以来，海山与之“大战于合剌合塔之地”。开始，海山军失利，海山“亲出阵，力战大败之，尽获其辎重，悉援诸王驸马以出”，“海都不得志去”，在撤军的路上病死，其子察八儿继立。
大德七年（1303），叛王“都哇、察八儿、明理帖木儿等相聚而谋曰：‘昔我太祖艰难以成帝业，奄有天下，我子孙乃弗克靖恭，以安享其成，连年构兵，以相残杀，是自隳祖宗之业也。今抚军镇边者，皆吾世祖之嫡孙，吾与谁争哉？且前与土土哈战既弗能胜，今与其子床兀儿战又无功，惟天惟祖宗意可见矣。不若遣使请命罢兵，通一家之好，使吾土民老者得以养，少者得以长，伤残疲惫者得以休息，则亦无负于太祖之所望于我子孙者矣。’”都哇等人的使者来到海山军中请求臣附，月赤察儿对海山及诸将说：“都哇请降，为我大利，固当待命于上，然往返再阅月，必失事机。事机一失，为国大患，人民困于转输，将士疲于讨伐，无有已时矣”，应“许其臣附”。海山及诸将采纳了月赤察儿的意见，先接受了都哇等人的投降，然后派人上报朝廷。元成宗充分肯定了这一做法，说“月赤察儿深识事机”，同意与叛王讲和，此后叛乱者“相率来降，于是北边始宁”。
大德十年（1306），都哇与察八儿发生内讧，海山乘机率军越过阿尔泰山，大败察八儿。察八儿无路可走，降附于都哇。都哇乘机兼并了窝阔台汗国的领地，窝阔台汗国从此不再存在。同年，都哇死，元成宗令其子宽彻承袭汗位，为元朝藩臣。
北方叛王同意罢兵，同意与元成宗“通一家之好”，这是元成宗“以战求和”政策的胜利，也是元成宗鼓励叛王“去逆效顺”、强调以德服人政策的胜利，可谓元成宗守成政治的一个重大成果。
大德十一年（1307）正月，铁穆耳崩于玉德殿，在位13年，享年42岁。“灵驾发引，葬起辇谷，从诸帝陵”。谥号为钦明广孝皇帝，庙号成宗。《元史》本纪评价说：“成宗承天下混一之后，垂拱而治，可谓善于守成者矣。惟其末年，连岁寝疾，凡国家政事，内则决于宫壸，外则委于宰臣；然其不致于废坠者，则以去世祖为未远，成宪具在故也。”元成宗并非历史上的明君，但其守成政治的成功经验却也是值得进一步研究的。