在忽必烈攻打鄂州的时候，蒙哥汗率西路军渡鸡爪滩，至石子山，开始猛攻合州。宋朝的合州守将名叫王坚，此人骁勇善战，又颇有一些谋略。蒙哥汗第一次率军攻城的时候，就吃了一个大败仗。蒙哥汗随即召集众文武来商议攻城之策，谋略来劝降王坚。当他们派出使者到达合州的时候，却被王坚命人将使都推出斩首，并且将首级悬挂在城门楼之上。蒙哥看到劝降失败，大怒之下屐了进攻。合州军民齐心协力，坚守城池，多次打败了蒙古军的进攻，蒙哥率军一直攻了六个月都没有攻下来。后来蒙哥又亲自率军攻城，不料大战之中被一块飞石击中了头部，落马而逃，撤回了钓鱼山营中。当时正值盛夏，酷热难耐，加上南方的潮湿之气，使得都是北方人的蒙古人都是十分的不适应，大多数都出现了水土不服的现象，甚至军中疫疠流行，兵士病死者甚多。本来只是受了伤的蒙哥也是身染疫疠，卧床不起，没有多长的时间，就病死于钓鱼山的大营之中。
这时忽必烈刚刚将鄂州城包围蒙哥汗的死讯便传来了。蒙哥这一次，的确太突然了，而且在蒙哥的生前也未留下任何的遗言，也没有说具体让谁来继承蒙古大汗位。消息传到了忽必烈这里，忽必烈命令自己手下的众谋士商讨一番，这几个谋士经过了一番讨论，都建议忽必烈应该罢兵北返，去争夺大汗之位。忽必烈也感到现在正是天赐良机，此时如果不夺汗位的话，更待何时？但是他此时又有一些犹豫，因为现在南宋尚未扫平，眼看就要取胜了，如此此时北归的话，那岂不是前功尽弃了吗？正在他犹豫不决的时候，突然南宋政府的宰相贾似道向忽必烈提出了名为求和实为投降的建议。忽必烈听到了这个消息，认为真是天赐良机，便兴高采烈的同意了贾似道的要求。双方签订了鄂州之盟。按照盟约规定，蒙古军撤退北还，两国以长江为界，南宋每年向蒙古进贡白银二十万两，绢二十万匹。在盟约签订之后，忽必烈马上撤离鄂州，挥师北上，争夺大汗之位。
蒙哥的战死，虽然使得忽必烈少了一个一奶同胞的兄弟，但也使他少了一个劲敌，扫除了忽必烈成就王霸之业的障碍。忽必烈在征灭南宋的战斗当中，又把东路军的军权牢牢的控制在自己手里，加强了他的军事实力。可是就在这个时候，蒙哥的几个亲信旧臣，如阿兰答儿和齐太平等都站在了阿里不哥一方来反对忽必烈，而漠南汉地的封建地主阶级士大夫几乎无一例外的都站到了忽必烈的一方。从此，另一蒙古统治阶级内部的斗争开始了。在公元1260年的三月，忽必烈在塔察儿、穆相哥、赤因铁儿等一批蒙古贵族的支持下，在开平登上了大汗的宝座，建中统。
创作地用汉地的知识分子，仿效汉人的政治制度，设立中书省、十路宣抚司及负责中原地区政务的燕京行中书省等行政机构，以巩固其在中原的统治地位。于此同时，忽必烈的少弟阿里不哥也在漠北的和林召开忽里会，即是蒙古的诸王大会，自立为汗，占据了漠北的广大地区。最初蒙哥汗南征灭宋的时候，令阿里不哥驻守蒙古的大本营和林，并统领漠北的蒙军。蒙哥战死的消息传到了和林之后，皇后忽都台及蒙哥的几个儿子，还有窝阔台的后人阿速带和察和台的后人阿鲁忽，以及相当一批蒙古元老重臣都纷纷表示支持阿里不哥为汗，因为这些人早就对忽必烈的实行汉法措施大为不满，对忽必烈也一直怀有异心。此外，驻军六盘山的蒙古军主帅浑都海、主持陕西政务的刘太平及四川的蒙古军的不少将领，也都拥戴阿里不哥继承汗位。阿里不哥在谋士阿兰答儿的策画之下，更是积极的谋夺汗位。
其实早在忽必烈征讨大理的时候，蒙哥就已经对他产生了怀疑，于是就派出了这个阿兰答儿成立了个钩考局，专门对忽必烈的那些文臣武将进行审查，审查的结果几乎全部要斩首。后来由于忽必烈采取了汉儒姚枢的意见，把自己的妻儿送往和林做人质，并亲自向蒙哥请罪，这样才使得蒙哥消除了怀疑，罢去了这个所谓的钩考局，并将阿兰答儿调回了和林。可是等蒙哥一死，最有资格继承汗位的当然是拖雷的次子忽必烈，阿兰答儿此时感到，如果忽必烈一旦做了蒙古大汗的话，那必然会功报私仇，必然会治他的罪，所以他为了自己的利益，大力的唆使阿里不哥与忽必烈争夺汗位。阿里不哥有如此众多的臣子忠于他，支持他，便毫不顾忌地公然自称大汗，根本就不把忽必烈放在眼里。
可是俗话说，天无二日，国无二主，一个国家里如何能容得下两个君主呢？这兄弟二人如此互不相让，在他们之间肯定会爆发一场惨烈的汗位争夺战，可是究竟谁能取得最后的胜利呢？当时，忽必烈的主要势力主要在中原，阿里不哥的势力在漠北。他们两人都很清楚，如果要战胜对方的话，必须夺得关右地区，于是双方都挑选最精锐的部队在关右驻扎。阿里不哥这一方派浑都海为关右主帅，主要将领有霍鲁海和刘太平等。忽必烈则委任自己的心腹赵良弼，赴关外考察军事地理形势。又命廉希宪任川、陕地区的宣抚使。这个廉希宪是畏兀儿人，自小就笃好经史，满腹经纶，举止不凡。他深受汉族文化的影响，在十九岁的时候就入侍忽必烈，常宣讲孟子的性善义利仁暴之说，人称廉孟子，颇受忽必烈的赏识。他在川陕地区推行汉法，加强了在秦、蜀、陇的政治和经济力量，对打败阿里不哥起到了关键性的作用。
