郭子兴死后，朱元璋虽无主帅之名，却行主帅之实。在元军的不断骚扰下，小城和州已不能满足数万人马的供给，要想解决这个问题，只能进攻江北的集庆（今江苏南京）。凭借一支万余人的水军队伍的帮助，朱元璋最终顺利渡江，并且成为军中名正言顺的主帅，最后集庆也成了他的属地。
目标集庆
郭子兴死后不久，小明王委任郭天叙为主帅，张天和朱元璋为副帅，全军上下都要听从主帅的号令。然而郭天叙军事经验不足，张天遇事又全无决断，只有朱元璋虽居左副元帅辅职，但在处理军务时却可以决断全军上下，堪称这支部队真正的主帅。
现在郭部数万大军驻扎和州，城小人多，元军几次围攻过后，粮食问题更加严重。和州城东南靠着长江，而长江对面的太平（今安徽当涂）南靠芜湖，东邻丹阳湖，自古以来就是著名的产粮区。面对只有一江之隔的天然“粮仓”，朱元璋下一步的军事行动必然指向这里。对岸这些产粮地区其实不难攻取，难的是站稳脚跟，如果只是过去抢些粮食回来，那也只能解决眼前的危机，接下来仍然还有严重的后患。要摆脱粮食问题的制约，就要长期占据北岸，要占据北岸就要打下集庆作为新的根据地，于是集庆成了朱元璋最终锁定的目标。
集庆地处长江中下游苏、皖两省的交界处，交通四通八达，实乃虎踞龙盘之地。在朱元璋刚刚收编横涧山土匪缪大亨两万精兵的时候，定远人冯国用就以集庆路地势之利，建议占据此地，以求逐步发展。
锁定目标后，最大的难题莫过于水军。夹在和州与集庆之间的是数百丈宽的长江，没有上千条战船，根本别想打过去。数千条战船，那就是一支强大的水军。朱元璋有数万精兵，几十员良将，却没一个水军，更别提战船，就算有了战船，也没有水手。所以望着对岸的集庆城，朱元璋只能唉声叹气。
第一支水军
正当朱元璋望着江对岸一片片稻田叹气的时候，巢湖水军头领李扒头（李国胜）派代表求见。原来从天下大乱那年开始，巢湖一带的豪族俞家就召集地方武装，推举李扒头为头领，双刀赵（赵普胜）为二头领，屯泊巢湖一带，联结水寨，组建起了一支拥有大小船只千余艘、人马上万的水军。他们和庐州守军头目左君弼结了仇，因势单力孤，几次交手均不敌，这次处境更加危险，于是派人来向朱元璋求援。
朱元璋接到消息后，大喜过望，亲自到巢湖与李扒头会面，苦劝其结伙渡江攻城夺地。时逢五月梅雨季节，连下了二十几天雨，河水上涨，河道中的暗坑也被淹平了，恰好方便集结船只。李扒头听任朱元璋的调遣，将大小船只千余艘全数停靠在和州岸边。
元至正十五年（1355）六月初一，朱元璋见风向有利于冲向北岸，决定就在此日出征。大军乘风渡江，直奔采石矶江岸。朱元璋大胆任用刚刚投军的常遇春为先锋，此人勇猛过人，不负众望，持戈率先跳上江岸，为后续部队打开一片滩头阵地。全军奋勇向前，元兵大败，沿江堡垒守军全数归降。
和州的部队好久没有吃过饱饭，一见粮草、牲畜，都红了眼往船上搬，打算运回和州以备军粮。但朱元璋要借势直取太平，一战站稳脚跟。他命人将船缆砍断，任其顺流漂走，这个举动引起了士卒们的一阵慌乱。朱元璋登上高处，公布要打太平路的决定，并声言打下太平路后，金银、粮草任由他们搬回家。事已至此，士卒们无奈，饱饭过后大军直指太平路。
太平路守军并无准备，一战入城，朱元璋早让李善长写好了禁约，不许掳掠，违令者立斩不赦，并叫人四处张贴，太平路的百姓才免遭大劫。可这样又担心军心不稳，他只好逼着当地的财主们献上些金银财帛，分赏给攻城的将官们。将官们得了好处，底层的士卒自然也就不敢再说什么了。
这次渡江战役，巢湖李扒头的水军功劳最大，但双方只是合作关系，始终不是自己的水军。朱元璋在船上摆了酒宴庆功，席间灌醉了李扒头，将其捆了手脚扔到江里。双刀赵不服，逃出去之后投奔了徐寿辉。李扒头部下诸将见没了头领，又没有船只，只好投降。朱元璋从此有了自己的水军，其中俞家三父子和廖家两兄弟成为他后来打江山的得力水军大将。
两攻集庆
朱元璋攻下太平路之后，改太平路为太平府。当地儒士李习、陶安求见，朱元璋深感二人学识过人、见解不俗，任命陶安在元帅府做令史，任命李习为知府。此外，朱元璋又置太平兴国翼元帅府，自己做大元帅，李善长为帅府都事，汪广洋为帅府令史，潘庭坚为帅府教授，召集乡民编为民兵，准备固守此城，以防元军反扑。
果然不出所料，没几日，元军分两路包围太平府，水路用大船封锁了采石矶，堵住红巾军的归路，陆路令民兵元帅陈野先率军数万猛攻太平城，然后朱元璋亲自登上城楼，带领士兵拼命抗敌；另选一队精兵，绕到敌人背后，前后夹击敌军。元军大败，元军的民兵元帅陈野先被生擒。朱元璋劝他归降，并结为兄弟，次日，陈野先率残部归降，约好同取集庆。
朱元璋与陈野先结拜兄弟只不过是一种缓兵之计，两人互相并不信任。陈野先的妻子留在太平府做人质，其部下随张天一同去攻打集庆。陈野先这个人性格反复无常，他本是个大地主，根本看不起穷人，此时更是恨极了红巾军。在攻打集庆的时候，他暗地里吩咐部下只摆出打仗的样子，用不了三两日，就会调转矛头再打红巾军。岂不知隔墙有耳，这些话让朱元璋的心腹检校听到了。朱元璋心里很清楚，不过他并没有告诉张天。张天这边攻了半天的城，只有小半数人在打，大半的人看热闹，所以吃了败仗回来。
朱元璋料到会有这样的结果，索性放了陈野先，让他带着自己的部队和郭天叙、张天合军一处，再攻集庆。陈野先早就在暗中约好了集庆守将福寿，要寻机夹攻红巾军。当天，他邀郭天叙一起喝酒，将其杀死，后又生擒张天，送到福寿面前，也杀了。元军的两支部队会师后，大败红巾军。陈野先一路穷追猛打，将死伤已经两万多的红巾军残部赶到了溧阳，不过人困马乏的他渐渐被大部队落下，后来被当地不明底细的地主武装设伏杀死，所部尽归陈兆先接管。
三攻集庆
朱元璋借陈野先的刀，杀了郭天叙、张天两位大帅，郭子兴的旧部从此全数归了朱元璋领导，他也从此成了名副其实的元帅，在军中再不受任何人节制。郭子兴的小儿子郭天爵被小明王任命为中书右丞，在朱元璋手下做事，他眼睁睁看着郭家的基业改姓了朱，忍不住暗地里发些牢骚，有几个忠心郭家的旧部有心帮他，后被朱元璋发觉。朱元璋找了个理由，把他们全给杀了。
朱元璋在率领大军渡江之前，把妻子马秀英以及将士们的家眷留在了和州。这样一来，和州就成了他的后方根据地，既有亲信镇守，将士们的家眷也有专人看管，这就使得将士们能够安心作战。和州和太平府的交通仅有水路，朱元璋用七八个月的时间，陆续占领了溧水、溧阳、句容、芜湖等一些城镇，完成了对集庆的孤立，形成了三面包围的局面。可是水路被元军切断了，消息不通，这样就脱离了与和州的联系，军心开始浮躁起来。
至正十六年（龙凤二年，1356）二月，朱元璋为打破僵局进行了周密部署，终于大败元军水军，截获大量战船，从此两地往来恢复了畅通。有了和州方面的消息，军心重又稳定。
三月初一，朱元璋水陆大军并进，第三次打响攻取集庆的战役。屯兵城外的陈兆先最先战败，率所部三万六千余人归降。随后，集庆城破，守城元将福寿战死，元帅康茂才和军民五十余万归降。
入城后朱元璋马上出榜安民，迅速恢复了社会秩序，改集庆路为应天府，任廖永安为统军元帅，赵忠为兴国翼元帅，守太平府，先后又有儒士夏煜、孙炎、杨宪等十几人求见，均被录用。小明王闻喜讯后，升朱元璋为枢密院同佥，不久又升为江南等处行中书省平章，李善长为左右司郎中，诸将皆为元帅。二十九岁的朱元璋转眼之间成了手握十数万大军的一方统帅。
