朱元璋既扼制了集庆的江上咽喉，从八月开始，就发起向集庆总攻，徐达肩负重任，首先率众突破了元军层层防线，深入敌后，连续攻占溧水、溧阳、句容、芜湖等诸重镇，廓清了集庆外围。次年三月，徐部与朱元璋的主力会合，对集庆实行两面夹击，先破陈兆选大营，尽降其众使其部队全部归降；再攻元兵于蒋山，终于攻克集庆，直到元水寨元帅康茂才率众投降，朱元璋在此次战斗中共赢得军民五十余万。集庆就是现在的南京，自古就是乃“古帝王之都，龙盘虎踞”，因而南定集庆的意义十分重大，它为朱元璋的奠基立业赢得了一个巩固的根据地，并由此而开创了中国历史上第一个由南向北统一天下的先例。朱元璋把集庆改名为应天府，以表示他的崛起乃上应天意。在这次战役中，徐达立下累累战功，功居诸将之首，赢得了朱元璋的全面信任，及后朱元璋“营四方，多命达为大将”，他所显现出的卓越军事才能促使朱元璋在今后的许多战役中都任命他为主将，徐达也就成了朱元璋打天下最重要的助手。
二、攻陈灭张努力进取
朱元璋在占领集庆后，虽说已拥有一块根据地，但他的势力在割据诸雄中，相对来说还是较弱的，所面临的形势也十分严峻，当时大江南北不仅还有元军重兵镇守，而且同是反元义军的东面的张士诚自恃地富粮足，西面的陈友谅倚仗兵强地广，他们时刻都想把朱元璋势力给吞并掉。为求得生存和发展，朱元璋必须首先巩固东西两面防线，然后伺机突破，并最终对两大势力给以毁灭性的打击，而要肩负这一重大任务，自然非智勇双全的徐达莫属。
当时东面争夺的焦点是长江下游的军事重镇镇江。假如镇江落入张士诚手里，他便可以随时出兵威胁应天。于是朱元璋决定先下手为强，“命徐达为大将军，委以东下之任”。徐达亦不负重视，旗开得胜，以少数兵力，勇夺镇江，徐达一向十分重视军风军纪，“达等号令严肃，城中晏然”，良明的军纪营的了百姓的拥戴，从而扩大了政治影响，赢得了人心，徐达一鼓作气，徐达又分兵攻下金坛、丹阳诸县，在应天东面筑起一道坚固的军事屏障，为巩固以应天为中心的根据地作出了卓著的贡献，以功升任淮兴翼统军元帅。
张士诚对朱元璋夺得镇江当然是不甘心的，镇江的位置太重要了，镇江落入朱元璋之手，无疑对他是一大威胁，他必须拔之而后快，于是在据有常州后便挥师进攻镇江。至正十六年七月，徐达在龙潭一战，击败张士诚军，乘胜进围常州。张士诚急调重兵增援，兵力占有明显的优势，徐达深知对方的兵力与勇猛程度，便决定“以计取之”避敌锋芒，用计取胜，先是在距城十八里处分设伏兵，然后亲率中军出战，结果士诚军受伏大败。徐达“获其张、汤二将”，致使张士诚元气大伤。这一战役使一向自负甚高的张士诚再也不敢小看朱元璋的势力，并派使臣到应天议和，表示愿意每年输粮二十万石、黄金五百两、白金三百斤，作为犒军之费，然而志在天下的朱元璋却不为满足，故意抬高价格，狮子口大开，最终双方未能达成协议。徐达奉命继续进军。终于在第二年三月攻克常州，以功晋升知枢密院事。
当年七月，徐达率军进逼宜兴，另遣先锋赵德胜攻常熟，常熟是由张士诚的弟弟张士德镇守。张士德“善战有谋，能得士心，浙西地皆其所略定”，所以在进军前，徐达特别叮咛赵德胜说：“张士德狡而善斗，有勇有谋，如果在战斗中让他胜利了，他的锋锐必然更加不可抵挡，所以必须用计取胜。”赵德胜遵从徐达指示，把军队驻扎在常熟城下，稳妥的设置埋伏，战斗打响之后终于擒获了马失前蹄的张士德，接着又攻下了常熟。接着随后，徐达又接连攻克宜兴、江阴等地，从而在东起常熟，中经江阴、常州，西至宜兴，沿太湖北岸构筑起一道弧形的东部防线，既完全堵死了张士诚西犯应天的通道，又随时随地可以进击平江，直捣张士诚的老巢。
徐达在东线节节取胜，但是西线却突然紧张起来，陈友谅趁徐达大军向东进攻之机率领几十万大兵向安徽进击，于至正十八年正月袭破安庆后，又遣将赵普连陷极阳、池州，在那里建立了强大的水寨。从西面对应天构成了严重的威胁。在此关键时刻，徐达再次挑起重任，奉命西调迎击陈友谅军队，他先在应天据守，继而投入了第一线的战斗，至正十九年三月大破赵普胜栅江营，四月攻克池州，缴获陈军战舰无数，以功晋升秦国上将军、同知枢密院事，
至正二十年五月，徐达与常遇春共同设谋，大败陈友谅军于池州东南的九华山，歼敌万余人，生俘三千人。在战斗结束后，常遇春大开杀戒，虐杀俘虏，徐达坚决反对这种不人道的做法，两人产生了争执。
至正二十年闰五月，陈友谅率水师十万，一举攻占太平，自立为汉王，并约张士诚东西夹攻朱元璋，一时之间应天告急，江东大震。在这危急时刻，徐达设伏于南门外，待陈友谅进至江边渡口龙湾时，诸路伏兵齐发，一举重创陈友谅，生俘七千余人，获战舰百余艘，战船数百，陈友谅夺舟逃回江州，徐达乘胜收复太平，攻占安庆。这一战役解除了应天的危急，彻底粉碎了陈友谅对西线的进攻；张士诚见陈友谅惨败，于是不敢轻举妄动了。连年来徐达在危难时机东西征战，使朱元璋东西两翼防线得到巩固，大大扩展了应天根据地，为其后削平群雄、顺利北伐、统一全国奠定了胜利的基础。
至正二十一年七月，陈友谅部将张定边重新占领安庆。朱元璋率水师亲征，徐达负责主攻陈友谅的老巢江州。徐军迅猛异常，友谅大惊，以为神兵从天而降，仓促之中不能整束军队，仅仅携带着妻子儿女连夜逃到武昌，于是徐达又顺利地拿下了江州。徐达穷追不舍，沿江而上，接连占领薪州、黄州、黄梅、广济，直趋汉阳，于汉口扎下大营，有力地遏止了陈友谅的东下。朱元璋得以偷袭收复安庆，并攻陷龙兴改名洪都，又连下袁州、瑞州、临江、吉安等府，将势力范围扩大到江西，徐达以功晋封中书右丞。
至五二十三年正月，张士诚遣其弟士信率大兵围攻韩林儿、刘福通的根据地安丰。当时朱元璋在名义上仍奉韩林儿的龙凤年号，同时也考虑到一旦安丰被攻破，张士诚的势力就会更加扩张，难以遏制，因而决定亲率徐达等渡江北上支援。然而此时陈友谅却乘虚而入，大举向洪都反扑，“空国而至，兵号六十万”，气势汹汹，吉安、临江、无为等州府，数月之中，竟都被陈友谅所攻陷。朱元璋不得不挥师回击，双方决战于鄱阳湖。中在这次具有决定意义的战斗中，徐达又立了大功，他“身先诸将，击败友谅前军，杀一千五百人”；在激战中，徐达战船着火，但他毫不畏惧，一面指挥灭火，一面坚持战斗，终于挫败了陈友谅的猛烈进攻。经此一战，朱元璋对战胜陈友谅已充满了信心，同时为了严防张士诚乘虚偷袭后方，便把留守应天的重任交给了徐达，并说：“吾以达留守，缓急可百全也”，朱元璋对徐达办事是绝对放心的。徐达回到应天，兢兢业业，恪尽职守，“申约束，严斥堠，示以镇静，若不知有外兵者”。张士诚见无隙可乘也不敢轻举妄动，因而使朱元璋解除了后顾之忧，得以全力对付陈友谅。朱元璋在与陈友谅决战中，虽然几经艰险，但最后还是取得了鄱阳决战的胜利，不仅全歼陈友谅的六十万大军，而且杀死了陈友谅。不久，徐达奉调回到西线，迫使陈友谅之次子陈理献出武昌归降，并进而攻取了江陵、辰州、衡州、宝庆诸路。陈友谅的残余势力既被肃清，朱元璋的势力范围也扩展到湖北、湖南。至正二十四年正月，朱元璋在应天即吴王位，建置百官，设中书省，徐达以卓越功勋任左相国之职。从此，徐达“出将入相”，在军事与政治两个方面，都发挥着越来越重要的作用。
陈友谅被消灭以后，朱元璋的下一个战略目标自然是东灭张士诚了。至正二十五年十月，徐达被委任为总兵官，率水陆大军东征。徐达针对张士诚辖境南北狭长二千余里，中隔长江，江北守备力量相对薄弱的实际情况，确定了“先取通、泰诸郡，剪其羽翼”，然后专事浙西的战略方针然后专攻浙西的战略方针，迅速渡江北上。徐军首先攻下苏北重镇泰州。然后进围兴化和高邮，这样就使张士诚陷入了南北隔绝的困境。张士诚当然不甘心坐以待毙，他从江南出击宜兴，以牵制徐达在江北攻势。然而徐达审时度势，进据都慎重考虑，予以取舍，在回师宜兴击溃张士诚军后，继续向江北挺进，并于次年三四月间攻下高邮、淮安、兴化。徐达还奉命破安丰，俘元将忻都，再战徐州，俘斩元兵万计。至此，“淮南、北悉平”。徐达仅用了半年左右的时间，不仅完成了攻取江北，剪除张士诚羽翼的任务，而且打通东控齐鲁、北进中原的通道。
同年七月，朱元璋与李善长、徐达等一起商议讨伐张士诚的大计。左相国李善长认为张氏“势虽屡屈而兵力未衰，士沃民富，又多积储，恐难猝拔，宜候隙而动”。但徐达久经战阵，对张士诚的虚实了如指掌，他反对这种错失战机的保守决策，他指出：“张氏骄横，暴珍者奢侈，此天亡之时也。其所任骄将，皆龌龊不足数，黄、蔡、叶三参军辈，是迂阔书生，不知大计。臣奉主上威德，率精锐之师，声罪致讨，三吴可计日而定。”徐达的意见非常适合朱元璋的意愿，他遂即任命徐达为大将军，率师二十万讨伐张士诚。
徐达还是从“剪其羽翼”的战略出发，首先攻打太湖南岸的湖州，把吕珍的六万援军阻击于城东之旧馆，紧接着又分兵击败张士诚以及徐志坚所率的援军于皂林和姑嫂桥，俘获志坚及兵众三千余人，迫使吕珍等于十一月献出了湖州。把湖州占领以后，徐达引兵北上，于当月包围了张士诚的大本营平江。在围城期间，徐达每遇大事均事先向朱元璋请示。朱元璋亲笔手书安慰徐达，说：“将军自昔相从，忠义出自天性，沈毅有谋，定能戡乱定难。虽古豪杰何以加兹……然将在外，君不御，古之道也。自今军中缓急，唯将军便宜行之。”徐达得书后，便檄令各路大军，向平江城发动总功击。张士诚内无粮草，外无援兵，曾先后两次拼死突围，但都被徐军杀回。至正二十七年九月，徐达首先攻破葑门，常遇春亦攻入阊门，平江遂克至此平定了平江。张士诚在此战中被俘虏，送应天后自缢而死。当徐达大捷凯旋回到应天时，朱元璋亲到城门论功行赏，徐达晋封为信国公，升为右丞相。朱元璋还特意谕诸将说：“灭汉灭吴，皆公等之力，古之名将，何以加诸！今当北定中原，各努力进取。”
三、灭元大功徐氏居首
至正二十七年十月，朱元璋任命徐达为征讨大将军，常遇春为副将军，率领二十五万人马北伐中原。在任命徐、常时朱元璋对他们有过一段评价：“命将出师，必在得人，师有纪律，战胜攻取，得为将之体者，无如大将军达；当百万之众，勇敢先登，摧锋陷阵，所向披靡，无如副将军遇春，然吾不患遇春不能战，但患其轻敌耳。身为大将，好与小校争能，甚非吾所望也。”当时徐达和常遇春虽同属朱元璋所倚重的名将，但在朱元璋心目中，徐达还是要胜出一筹的，在“长于谋略”和“严于律己”方面尤其如此。
徐达根据既定的“先取山东，撤其屏蔽，旋师河南，断其羽翼，拔潼关而守之……然后进兵元都”的北伐总战略，从淮安挺进山东首先攻克沂、莒、密、海诸州，分兵扼守古黄河要道，阻敌增援，主力部队继续北上，于十一月攻克山东重镇益都以及临淄、寿光等州县。十二月，济南及登、莱守将献城，山东全境平定，“撤其屏蔽”的任务顺利地完成了。
元至正二十八年正月，朱元璋在应天正式即皇帝位，国号明，建元洪武，徐达以“首功”被封为右丞相兼太子少傅，同年三月，北伐进到了第二阶段，徐达率水陆大军，溯河南上，进军河南，攻克永城、归德、许州，对梁守将左君弼献城降，四月，明军自虎牢关直趋偃师、洛阳。洛水一战，元兵损失惨重，洛阳守将李克彝弃城逃往陕西，梁王阿鲁温开门迎降。五月，潼关守将、张思道亦战败西奔。至此，“剪其羽翼”，“控扼潼关”的战略任务，亦告胜利完成，“元都孤立，幽蓟自倾”，灭元是指日可待的了。
同月，朱元璋亲自赴汴梁和北伐众将领一起商讨进取元都。在会上，徐达充满自信地说：“臣自平齐、鲁，扫河、洛，元将王保何逡巡太原，观望不进，及潼关既克，元军失势西窜，元之声援已绝，今乘势直捣元都，可不战有也，”朱元璋非常赞同他的主张，马上批准了他们的作战计划。闰七月，徐达从河阴、渡黄河北上，分兵攻取了卫辉、彰德、磁州，并在临清与山东诸路大军会合，沿运河继续向北挺进，迅速攻下德州、长芦、直沽，并攻占了元都外围的重要战略据点通州，元顺帝闻讯后，知元都已无法保住，遂于闰七月二十七日深夜仓皇逃跑，北逃上都开平。徐达于八月初二率军从齐化门进入元都，除监国淮王帖木儿不花等因顽抗被杀外，其余不滥戮一人，“士卒无侵暴，人民安堵”，徐达治军之严明，于此也可以看出，明军进入大都，旋改元大都为北平府。元王朝的统治，终于被推翻了，这样，北伐的第三阶段直趋元都的战略任务，在不到一个月的时间里便胜利完成了。
洪武二年（1369）正月，诏立功臣庙于鸡鸣山下，朱元璋“亲定功臣位次，以徐达居首”。洪武三年十一月，朱元璋“乃下诏大封功臣，授达开国辅运推诚宣力武臣、特进光禄大夫、左柱国、太傅、中书右丞相参军国事，改封魏国公，岁禄五千石，予世券”。
四、秉心以德谨饬自守
徐达一生南征北战，“廓江汉，清淮楚，扫西浙，中原声威所震，直连塞外，其间降王缚将，不可胜数”，一个农家出身的孩子为什么能够具有如此良好的军事素养呢？这应该从几个方面去分析分析。
首先徐达勤奋好学，他因家境贫寒，从小便失去了上学读书的机会，但徐达并没有甘于现状，与此相反，更激发了他的求知欲。平时打仗当然是非常紧张激烈的，但他仍千方百计创造条件抓紧学习，“归朝之日，单车就舍，延礼儒生，谈论终日，雍雍如也”，可见他对于自己的学习提高是从不放松的，对于有才学的儒士也是非常尊敬的。徐达熟知我国古代兵法，掌握了渊博的军事知识，从而使自己逐步成长为杰出的帅才，就是他学习的结果。
其次是严于律己，他治军严明，“令出不二”的治军作风和他严于律己紧密不分开。徐达深深懂得，如果将帅不以身作则，作出好榜样，兵是很难带好的，也是难以激励士气的，所以他时时、事事、处处对自己的要求极严，在生活上参与部卒同甘共苦，“士卒不饱，不饮食，不营定，不就帐，伤残疾者，视慰问，给医药”，因而深得军心，真正做到了令行禁止，所向克捷。他的地位虽然是越来越高，但对自己的要求和约束也越来越严，从不居功自傲，放纵自己。朱元璋曾对他作过这样的评价：“受命而出，成功而返，不矜不伐，妇女无所爱，财宝无所取，中正无疵，昭明平日月，大将军一人而已。”
