蒙哥去世的消息既传到了忽必烈军中，也传到了留守和林的阿里不哥那里。阿里不哥因驻守后方，享有很大的主动权，在一些人的策划下，准备继承汗位。但阿里不哥不论在个人才能还是文治武功上，都远不如忽必烈。他为了防止忽必烈带兵北上争位，便秘密调动大漠南北的军队，准备阻击忽必烈。忽必烈的妻子察必看出形势有些不妙，就连忙派人密报给忽必烈。忽必烈在处理这件事上充分听取了臣下的意见，郝经上《班师议》，认为应当先与南宋秘密媾和，然后迅速班师。否则，阿里不哥一旦宣称有蒙哥汗的遗诏，忽必烈虽有重兵，也难得回去。当今之计，应先派人截住蒙哥汗的灵车，收夺皇帝的印玺，并通知诸兄诸王会葬蒙哥汗。然后自率轻骑，日夜兼程，奔赴燕都，稳定中原一带的局势。于是，忽必烈做出要猛攻南宋的姿态，贾似道便慌忙求和，在与南宋订立了和约之后，忽必烈率师北还。
到达燕京时，忽必烈就发现脱里赤正在征集训练军队，脱里赤托辞是受了先帝之命而为，忽必烈已看清了阿里不哥的真实意图，就解散了脱里赤的队伍，并不理阿里不哥会葬蒙哥汗的通知，率军来到开平。在取得了相当数量王侯的支持下，忽必烈抢先一步登上了汗位。
所谓“先发制人，后发人制”，阿里不哥一见忽必烈称汗，自己反而落后，就连忙召集一些大臣诸王，宣布继承汗位。正像当时的俗语所说：“一口锅里煮不下两个羊头”，兄弟俩之间发生了战争。战争的局势一开始就较为明朗，一方面支持忽必烈的诸王较多，具有雄厚的军事势力，另一方面，忽必烈的军事、政治才能和经验也远比阿里不哥丰富，其三是忽必烈占据了广大的地盘，尤其是中原地区，取得了稳固的根据地，因而经过多次较量之后，忽必烈终于取得了胜利。元至元元年（公元1264年）七月，阿里不哥在大败之后，只得带着身边的一些人来投忽必烈，表示归降。忽必烈问他：“你平心而论，我们兄弟俩谁该继承汗位呢？”阿里不哥说：“原先我是对的，现在大汗您是对的。”这话的意思只是承认忽必烈战胜了，却并未承认忽必烈继承汗位是正确的。忽必烈听了一笑，就赦免了成吉思汗的子孙，其余叛臣被斩首。