忽必烈掌管漠南汉地军国庶事之后所实行的一系列措施，使中原地区得到了初步的治理，人户逐渐增加，经济慢慢地恢复起来，为忽必烈夺取政权奠定了经济基础。
淳佑十二年（公元1252年），蒙古发动了对南宋的大规模军事进攻。为了对偏安江南的南宋实行大包围，蒙哥派忽必烈率兵先征服云南。就这样，我国军事史上一次罕见的、长距离的迂回进军开始了。
忽必烈率大将儿良台合、树合也只烈等南下，他们从宁夏出发，经甘肃、四川、西藏（即吐蕃）边界荒无人烟的高山峡谷，绕道两千余里，然后又分兵三路入云南。忽必烈率领的中路大军，途中舍骑徒步，翻过高山峻岭，来到金沙江边，不畏江水汹涌湍急，乘革囊、木筏渡过金沙江，入永胜、丽江，占领了鹤庆、剑川一带，开始攻大理。因上关城池坚固攻不下来，改由苍山背后，攻占大理国都城羊苴咩城。
“革囊”其实就是羊皮筏子，跟今天的橡皮船差不多，可以用来载人运物、穿越急流险滩。这种特殊的交通工具，对没有乘坐过的人说来，是很难想象的。忽必烈就是乘坐“革囊”渡过金沙江进入云南的，善于骑马射箭的蒙古统帅忽必烈不骑马，而是跨革囊，这可是一段有趣的事。清人孙髯翁在着名的《昆明大观楼长联》中，曾用“元跨革囊”四个字概括忽必烈征战云南的壮举。
大理国士段兴智选列都阐（今昆明）企图募兵抵抗。元军攻下大理后，驱兵直追，大理国布缕（国相）高泰祥在姚州战死，国士段兴智被俘，历时300余年的大理国到此灭亡。清初着名军事地理学家顾祖禹，对忽必烈进军大理推崇备至，称之为“师从天降”。
此次远征，忽必烈打垮了吐蕃的反抗军队，灭掉了云南的割据政权大理国，使之成为大蒙古国中央政权管辖下的一个组成部分。灭了大理国后，忽必烈采纳刘秉忠建议，改变了过去屠城的做法，而改为安抚，使“诸方人民遂定安”。据杨慎《滇载》记载：“元既灭段氏而有其地，得五城八府，蛮部三十有七。设大理都元帅府，仍录段氏子孙世守其土，赦兴智，封为摩珂罗嵯，管领八方。兴智死，元季乱，中原多故，段氏复据之，于是有十一总管出焉。”至今忽必烈在大理的遗迹颇多，大理城西北苍山兰峰之麓无为寺内的翠华楼，为忽必烈攻大理时下榻的地方，又叫“驻跸楼”，寺前松林繁茂，是大理着名的风景区之一。
1253年，忽必烈受京兆（今陕西西安）封地，在这里他重用儒臣兴立屯田，兴复吏治，恢复农业，建立学校，进一步取得北方汉族地主阶级对他的拥护，为元王朝的建立提供了社会基础。
忽必烈采用汉法治理汉地，不可避免地损害了蒙古游牧贵族和西域商人的利益。他在中原威望的日增，在治理陕西、河南过程中大量财力、物力的积聚，又形成了对蒙哥汗权的威胁。于是，一部分宗室大臣在蒙哥面前挑拨离间，叫嚷“忽必烈赢得了中原的人心”，揭责忽必烈王府的人经常掠权，奸营利私。对此，蒙哥深感不安。宝佑七年（公元1257年），蒙哥借口忽必烈刚打完仗，又患有脚病，让他留在家中休息，而以塔察儿为左翼军统帅，解除了忽必烈的兵权。不久，蒙哥又突然决定亲征南宋。忽必烈岌岌可危！
在当时的情况下，忽必烈身为藩王，调动军马及粮饷的权力都在大汗手里，因而断难与蒙哥一决雌雄。不得已，忽必烈听从了姚枢的建议，反把妻子、儿女送到汗庭做人质，表示并无异志。当年十一月，忽必烈又亲自谒见蒙哥，兄弟相见，抱头痛哭，蒙哥终于消除疑虑，动了手足之情，不让忽必烈再说什么而表示谅解。这样，忽必烈以谦恭忍让保全了自己，避免了一场不测之祸。但是，他并没有放弃控制中原汉地的雄心。正如他对郝经所说：“时机还未成熟啊！”
孤军攻鄂武力夺位
公元1256年，忽必烈修建开平城（今内蒙正蓝旗东），作为他统治的基地，势力不断发展。
公元1257年，蒙哥为效法其祖父成大业而享盛名，亲自率军攻打南宋，留其弟阿里不哥守和林。一年之间，蒙古军长驱而下，宋四川各地守军，相继败降。
宋宝佑六年（公元1258年），蒙哥在吐蕃、大理相继归附之后，认为灭宋时机已到，遂命忽必烈攻鄂州（今湖北武昌），又命留守云南的大将兀良哈台转攻潭州，蒙哥亲率主力由六盘山进入四川，试图对偏安一隅的南宋形成三面围攻之势。
开庆元年（公元1259年）春，蒙哥率军攻打合州（四川合川）。宋合州守将王坚凭钓鱼山天险坚守，拼死抵抗。蒙军连续进攻数月不能破，天气炎热，军中疾疫流行，士气逐渐低落。蒙哥孤注一掷，亲自领兵到城下猛攻，为矢石所中，蒙军败退，蒙哥不久死去。蒙哥生前没有像太祖铁木真、太宗窝阔台那样对嗣位问题做出安排。这就在蒙古王室内部引起了有关汗位归属问题的激烈争吵。忽必烈有资格接替大汗的位置，但其弟阿里不哥和宪宗蒙哥的儿子们也可以继承汗位。这样，争夺汗位的斗争不可避免地在拖雷系诸王间发生了。
宪宗蒙哥南征时，阿里不哥奉命留守和林，主持大兀鲁思，管理留守军队及诸斡儿朵，在政治上处于十分优越的地位。另外，皇后忽都台以及蒙哥诸子都拥护阿里不哥，这就增加了阿里不哥政治上的声势。在军事上，他拥有留守和林的军队，随从宪宗南征的军队也有一部分归附了他。蒙哥去世后，大军在攻宋前线，阿里不哥先发制人，派阿兰答儿发兵于漠北诸部，派脱里赤括兵于漠南诸州。阿兰答儿乘机调兵，进至离开平（在今内蒙古正蓝旗东闪电河北岸）100余里的地方。开平一带是忽必烈经营多年的根据地，阿里不哥的军事行动给忽必烈造成了极大的威胁。
这时，忽必烈异母弟末哥遣使来告蒙哥死讯，请忽必烈北还。忽必烈仍以偏师孤军加紧攻鄂。对于孤军攻鄂的危险忽必烈是很清楚的，他之所以甘心冒险，悖乎常情地“不当进而进”，确有其不可明喻的缘由。首先，忽必烈对曾被蒙哥褫夺军权一事仍心有余悸，他必须利用这个机会，亲赴军前，才有可能真正掌握这一支军队；其次，接应由云南北上、转战千里、处境危殆的兀良哈台，这样，就可以在即将举行的选举大汗的忽里勒台上得到他的支持，造成自己竞选上的优势；其次，耻于无功而还，这在崇拜英雄主义的蒙古人中也有助于树立自己勇敢无畏的形象。可见，在这种貌似冒进的鲁莽行径之后，老谋深算的忽必烈实已从战略上着眼，为追求一个“二有为于天下”的宏大计划准备牢固的阶梯。
在忽必烈心急如焚地攻鄂之际，其妻弘吉刺氏自开平遣使臣来，密报阿里不哥在漠北图谋继承汗位！忽必烈在军前召集他的将领、幕僚商议。郝经说：“大王虽然素有人望，且握重兵，但是不知道海陵王的故事么？倘若他（指阿里不哥）自称受遗诏，便正位号，下诏中原，大王要回去还能行吗？”郝经建议：“断然班师，亟定大计，销祸于未然。”廉希宪说：“殿下太祖嫡孙，而且收召才杰，悉从人望，率土归心。愿速还京，正大位以安天下。”忽必烈命廉希宪先行，观察事变。又命他前往赐宗王塔察儿饮膳，乘机提出拥立忽必烈的建议。塔察儿赞同此议，愿首倡推戴。
为争夺王位，忽必烈决定返回漠北。正好南宋贾似道派使讲和，忽必烈当即同意，断然把大军留在江北，自己率一支亲军先行。中统元年（公元1260年）三月，忽必烈到达开平，召集忽里勒台。忽必烈弟末哥、塔察儿、移相哥（哈撒儿之子）、忽刺忽儿（成吉思汗弟哈赤温子）、爪都（成吉思汗弟别里古台孙），西道诸王合丹（窝阔台子）、阿只吉（察合台子）等拥立忽必烈（元世祖）即汗位，定都开平。
按照蒙古传统惯例，选汗的忽里勒台应在鄂嫩河、克鲁伦河之地举行，而且必须有各系宗王参加。忽必烈在汉地自行集会选汗，显然与传统不合，而且有些宗王未前来出席。这时，阿里不哥留守和林大斡儿朵，蒙哥死后由他暂时监国。忽必烈自立为汗后，阿里不哥利用这一时机，也随即在和林举行大会。蒙哥诸子阿速台、玉龙答失及察合台系宗王数人，拥立阿里不哥为汗。两汗并立，只有用武力来解决汗位问题了。
蒙古国军队的主力，原由蒙哥统率侵宋。蒙哥死后，大将哈刺不花率部退据六盘山，与留守这里的浑都海部会合。阿里不哥派出霍鲁怀、刘太平等来陕西，拘收钱谷，企图与六盘山驻军联合，自关中进兵。廉希宪、商挺等来京兆，先发制人，6月，以谋反罪处死霍鲁怀、刘太平。忽必烈诏令陕西四川宣抚使八春节制诸军，命巩昌权总帅汪良臣统率陕西汉军防御六盘山的军队。
忽必烈亲率大军自开平出发去和林，攻打阿里不哥。9月，至转都儿哥之地。阿里不哥派遣阿蓝答儿领兵南下，至西凉府，与浑都海军会合东来，哈刺不花因意见不和引兵北去。忽必烈命诸王合丹、合必赤与八春、汪良臣等率领蒙、汉军迎战。两军展开大战，阿里不哥军溃败。阿蓝答儿、浑都海相继被杀。阿里不哥败逃，退至乞儿吉思地，派遣使者与忽必烈相约，邀集西北诸王正式选汗。忽必烈命宗王移相哥统领一军进驻和林，以待阿里不哥。10月，忽必烈领兵南返，12月至燕京，赏赐拥立诸王。1261年2月，返回开平。
中统二年（公元1261年）秋，阿里不哥伪装率众归降，对移相哥发动了突然袭击。移相哥因丧失警惕，被打得溃不成军。阿里不哥挥师南下，矛头直指忽必烈的漠南驻地。忽必烈闻报大惊，急忙征调张柔、严忠嗣、张宏等七处汉军，并令董文炳率射手千人，塔察儿率军士万人随从出征。11月，忽必烈军与阿里不哥战于昔木上脑儿。诸王合丹、驸马腊真、丞相缐真和兀鲁、忙兀二部军为右军，诸王塔察儿、太丑台和史天泽等将左军，诸王哈必赤将中军，合势进攻，斩阿里不哥的大将合丹火儿赤。塔察儿与合必赤分兵奋战，大破斡亦刺军。阿里不哥后军阿速台复至，再战，两军杀伤相当。阿里不哥北撤，忽必烈也还军。
察合台汗领地（兀鲁思）原由兀鲁忽乃妃子摄政。忽必烈即位后，即派遣察合台曾孙阿必失哈偕弟纳邻合丹去阿力麻里主持政事。二王行至途中被阿里不哥捕获。阿里不哥乃派察合台孙阿鲁忽（拜答儿子）去察合台汗地执政，以为声援，并防御在波斯的旭烈兀。阿里不哥远在漠北，从汉地北运的粮食断绝，给养缺乏，便派遣使者去察合台汗领地征敛。没想到阿鲁忽杀使者，转而拥护忽必烈。
1261年秋，阿里不哥盛怒之下发动了对阿鲁忽的战争。阿鲁忽在普刺城迎战，斩阿里不哥大将哈刺不花。阿鲁忽得胜而回，不再戒备。阿里不哥的后军阿速台突然进至阿力麻里地区，阿鲁忽败走和田、喀什噶尔。阿里不哥军遂驻冬阿力麻里，阿鲁忽西走撤马尔罕。
阿里不哥进驻阿力麻里后大肆屠掠无辜兵民，阿鲁忽部下多被杀死。1264年春天，又值饥荒，人民死亡甚多。阿里不哥部下的许多将领为之心寒而纷纷离去，并逃至驻在阿尔泰地区扎布汗河上的玉龙答失，共商归降忽必烈。阿里不哥众叛亲离，又怕阿鲁忽报复，走投无路，不得不投降忽必烈。
这场汗位之争，忽必烈是以蒙汉各族地主阶级的总代表身份出现于历史舞台的。到自行称汗时，忽必烈周围大体有四种人：一是汉化的部分蒙古宗王；二是像刘秉忠一类的汉族地主阶级知识分子（这些人不断向忽必烈灌输“帝中国，当行中国事”的思想）；三是各族上层分子；四是北方汉地军阀。这四种人都站在忽必烈一边，为忽必烈所用。这与阿里不哥只有拥戴他的守旧的蒙古宗王相比，不论在政治上、军事上，还是在经济实力上，忽必烈都占了明显的优势。
这场争夺战的性质已超出成吉思汗黄金氏族间单纯的汗位争夺。忽必烈的胜利，使他得以摆脱蒙古贵族守旧势力的牵制，放手“变能”祖制，实行“汉化”。从这个意义上说，它是革新派对守旧派的胜利，具有不可低估的进步作用。
迁都大都 兵戎灭宋
至元九年（公元1272年），忽必烈迁都大都，把中央政权机构设于此地。
大都，即今北京。当时我国西部的一些兄弟民族及西方人习惯上称之为“汗八里”，即大汗之城的意思。北京正式作为全国的统治中心，是从忽必烈开始的。
北京是一座文化古城。它有着大约3000多年的悠久历史。秦朝时称为蓟城，但只是广阳郡的治所。直至唐朝，习惯上称为幽州城。辽时称为南京，后改称燕京。金又将燕京改为中都。蒙古军攻破中都后，又改称为燕京。自成吉思汗建立统一的蒙古大帝国后，政权中心一直设在漠北的和林，这是他们的老根据地。
忽必烈早在治理漠南汉地事务时，就很注意汉地的基本建设。曾命刘秉忠筹建开平作为统治中心，又以燕京作为控制中原地区的枢纽。在开平设有中央的行政机构中书省，在燕京设立行中书省，公元1263年正式定开平为上都，次年定燕京为中都。
这种两都制，是忽必烈一种巧妙的过渡性办法。因为他登位后，不能再继续以游牧经济为主的治国方针，而和林远离中原汉地，交通不便，又很偏僻，不改变这种局面，就难以适应形势发展的需要。
