8月,奉命攻取鄂州的忽必烈遣杨惟中、郝经宣抚京湖、江淮,带领归德军先至江上,又会合诸军渡淮。忽必烈由大胜关(河南罗山县南),张柔由虎头关分道并进,宋军皆演。忽必烈军至黄陂(湖北黄陂北)。9月,亲王木哥自合州遣使,把宪宗死讯报告给忽必烈,请他北还。忽必烈则说:“我奉命南来,怎么可以无功而还?”继续进兵渡江围攻鄂州,宋军坚决抵抗,固守不降。蒙古军一部分又进入瑞州(今江西高安)。
10月,宋丁大全罢相,吴潜、贾似道为左右丞相兼枢密使。贾似道屯兵汉阳以援鄂州。当时,边报日急,南宋都城临安团结义勇,招募新兵,增筑平江、绍兴、庆元等地城堡,朝野上下处于震恐之中。
闰11月,忽必烈得知阿里不哥争位的消息,决策北归,留张杰、阎旺师等候湖南兀良哈台的军队。1260年正月,兀良哈台由潭州北上至鄂州,与忽必烈所留部队会师后北归。
忽必烈北归至燕时,脱里赤正在燕地征括民兵,百姓甚苦,忽必烈诘问其原因,脱里赤假说是先帝临终之命。忽必烈知道他想图谋为乱,将其所集之兵遣散,由此民心大悦。忽必烈又在途中遣张文谦与商挺计议如何行事。商挺说:“应当严格整饬军中的符信,以防奸诈。”于是忽必烈急速派遣使者至军中定立约束。其后,阿里不哥也派使者至军中,被忽必烈执而杀之。3月,忽必烈军至开平(今内蒙古正蓝旗东闪电河北岸)。廉希宪闻听阿里不哥命刘太平以及大将霍普海于关右行尚书省事,忽必烈得到报告后担心他们结纳诸将进而引起秦、蜀之地的动乱,遂请赵良弼前往侦察,赵良弼确得其实,还报忽必烈。这时诸王合丹、木哥、塔察儿与诸大臣都会集于开平,旭烈兀也从西域遣使来会,只有阿里不哥没有前来。忽必烈即位,是为薛禅皇帝。薛禅是蒙古语,意为“聪明智慧”。蒙古不由贵族会议(忽里勒台)推举嗣君,就是从忽必烈开始的。
忽必烈居潜邸为诸王时,就想大有作为于天下,经常访求贤才,虚已咨询。先是有怀仁(今属山西)赵璧在藩邸,被忽必烈所信任,称他为秀才而不呼其名。董文用为忽必烈侍讲,忽必烈让他去招聘名士。肥乡人窦默以经术教授于乡里而闻名,忽必烈遣董文用去招之。窦默应招之后,又推荐了姚枢,忽必烈遂遣赵璧去招之。金左司郎中王鹗在金朝灭亡时就要被杀,被万户张柔救了下来,也被忽必烈聘了去。邢台人刘秉忠,初为令史,后隐居武安山中为僧,名子聪,其后又游历至云中,居南唐寺。当时僧人海云被忽必烈所招,海云在赴召途中路过云中,闻听僧子聪博学多才,遂邀请他一起去见忽必烈,甚得忽必烈喜爱,海云归去后,僧子聪被留于藩邸。1247年时,忽必烈接受了邢州分地。邢州地处要冲,赋税征求百出,百姓负担沉重,不堪忍受其苦。僧子聪推荐张文谦可用,忽必烈召见他,命其掌王府书记。张文谦对忽必烈说:“现在百姓生活困苦,最数邢州为甚,应该派人去治理。”于是挑选脱兀脱、刘肃、李简三人去邢州,他们协心治理,邢州户口加十倍。此后,忽必烈更加重视儒士。忽必烈闻知真定路经历官张德辉贤能,亦召至于藩邸,问以治道,并且又访求中原人才。德辉举荐魏磻、元裕、李治等二十余人。
蒙哥以忽必烈总治漠南之地时,忽必烈宴请群下,群下纷纷表示祝贺,唯独姚枢一言不发,忽必烈问其原因,姚枢说,如今天下土地之广,人民殷阜,财赋丰厚,哪里也比不上汉地,如果您现在尽有之,那么大汗怎么办?他一旦后悔,就将剥夺你的权力。不如你只要兵权,其他事交付有司处理,这样才会事顺理安,保全自己。忽必烈有所醒悟,说:“我想的不周到。”蒙哥想要更新庶政,而姚枢、张文谦、僧子聪等人每次都选择时务所急需的一些事情事先告诉给忽必烈,由忽必烈入告给蒙哥,因而赢得了蒙哥的信任。
忽必烈即位前,就在身边形成了一个庞大的智囊团。即位后,他就让僧子聪与许衡负责定官制,以中书省总政务,枢密院掌兵权,御史台司黜陟,内有监、寺、院、司、卫、府,外有行省、行台、宣慰、廉访,地方有路、府、州、县,官署以蒙古人为长,汉人为副。以王文统为平章政事,张文谦为左丞,建立起中书省。十路宣抚使以及负责中原汉地政务的燕京行中书省等行政机构,从而巩固了在中原地区的统治地位。
1260年4月,阿里不哥在和林称帝,据有漠北地区,并密约关中、陇蜀等地将领支持。忽必烈任廉希宪为宣抚使,率领汪良臣等抚定诸将。5月,忽必烈建元中统,蒙古自此开始有年号。12月,忽必烈以吐藩僧人八思巴为国师,统领佛教,管辖西藏政事。
1261年,忽必烈率大军讨伐阿里不哥。11月,双方战于昔木土脑儿,诸王合丹杀其将火儿赤以及兵士三千人。塔察儿等也分道进击,大破阿里不哥的军队,追其北25千米。忽必烈率诸军随其后,然后会合三路兵围攻阿里不哥,其部将大多投降,阿里不哥向北逃去。自此以后,阿里不哥不能再组织起军事力量。1264年7月,阿里不哥与诸王玉龙答央、阿里带及其谋臣不鲁花、忽察秃满等都投降。诸王获释,不鲁花被诛。在此前数年之中,阿里不哥曾西走与阿鲁忽争察合台汗国,攻战连年,天山南北路为之残破。
在忽必烈与阿里不哥争夺汗位期间,蒙古江淮大都督李王玉璮着手修筑济南、益都等城壁,并于1262年从开平召回其子李彦简,消灭了蒙古戍兵,以济南、益都、涟海三城投降南宋。宋诏授他为保信、宁武军节度使、督视京东、河北路军马,封齐郡王,并追复其父李全官爵。蒙古平章政事王文统及其子因与李璮相通而被杀。3月,忽必烈命史枢、阿术等将兵赴济南,大破李璮军,斩首四千人。李王宣退保济南。4月,忽必烈命诸王哈必赤总领诸道兵击李璮,又复命史天泽前往山东,诸将皆受其节制。史天泽采取困厄的办法,挖深沟,筑高垒,围攻济南。7月,李璮兵败被杀,史天泽回朝后,奏请罢大藩子弟专兵民之权,并请从自家开始。于是史氏以及张柔、严忠济子弟等全都归还了私第。
1265年8月,蒙古元帅阿术率兵至庐州及安庆诸路。宋统制范胜统领张林,正将高兴、副将高迪等领兵迎战,结果全部战死。宋夏贵率领五万军队进攻潼川(今四川三台),蒙古都元帅刘元礼只领兵数千人出战,而夏贵败走。
1266年10月,蒙古总帅汪惟正遣将由间道袭击开州(今四川开县),杨文安派千户王福领兵相助,城陷后,宋守将庞彦海投崖而死,蒙古留兵戍守。
1267年8月,蒙古都元帅阿术侵掠襄阳,进入南郡(湖北江陵),攻取仙人、铁城等栅寨,俘虏居民五万。还军时,南宋军队在襄、樊之间邀击。阿术自安阳滩济河,留精兵五万人列阵于牛心岭。然后又立些虚寨,设置疑火迷惑宋军。夜半时,宋军至,蒙古伏兵起而攻之,宋军大败,死者万余人。11月,蒙古南京宣慰使刘整对忽必烈说:“攻宋的战略应该先取襄阳,然后由汉水进入长江,可直抵临安,削平南宋。”忽必烈采纳了刘整的建议,下诏征发诸路兵,命阿术与刘整经略襄阳。12月,宋以吕文焕改知襄阳府兼京西安抚副使。
1268年,蒙古阿术领兵围襄阳,在白河口及鹿门山修筑栅寨,又在汉水中筑台,与夹江堡相应,全部切断了南宋援救襄阳的道路。蒙古还以刘整为都元帅与阿术共同议事。在刘整的建议下,征调汉军对付山水、寨栅,并训练水兵。11月,宋襄阳守军进攻蒙古沿山诸寨,为阿术军打败。
1269年正月,阿术领兵侵掠复州(湖北天)、德安府(湖北安陆)、京山等处,掳掠万人而去。蒙古又征括诸路兵马增援襄阳,遣史天泽与枢密副使呼刺出前往襄阳。史天泽军至襄阳后修筑长围,起自万山,围百丈山,使襄阳、樊城南北不相通。又筑岘山、虎头山成为一字城,连接各处城堡,作长期围困的打算。3月,阿术率军自白河围樊城。
宋沿江制置副使夏贵于春季河水上涨时曾率轻骑运粮至襄阳城下,担心蒙古军袭击,将粮食交付给吕文焕后立刻返回。7月,大雨季节,汉水暴溢,夏贵分遣舟师出没于东岸林谷之间。一日,夏贵领兵赴新城(湖北保康、房县一带),至虎尾洲,被蒙古万户解汝楫等舟师所败,士卒溺汉水而死者甚众,战舰五十多艘全部沉没。范文虎率领舟师声援夏贵,至灌子滩,也被蒙古军打败。文虎驾轻舟逃遁。