朱元璋为这次胜利所鼓舞，便根据当时的形势，及时提出继续进攻周围州县的计划，他对徐达等将领说：“今举而渡江，幸而克捷，当乘胜径取太平。若听诸军取财物以归，再举必难，江东非我有，大事去矣！”徐达等表示赞同。为坚定将士们前进的决心，朱元璋采取“置之死地而后生”的策略，下令砍断渡船缆绳，把船推到江中，顺流漂下。众军士一见大惊，朱元璋趁机说道：“成大事者不规小利。此去太平甚近，舍此不取，将奚为？”士兵们只好听命。他们吃饱饭，就从观渡（采石附近）向太平进发，经太平桥直抵城下。纵兵急攻，守城元军抵御不住，守将完者不花等弃城而逃，元万户纳哈出等被俘。
翌年三月，朱元璋亲率大军进攻集庆，徐达奉命为先锋，率水陆军士并进。至江宁镇，攻破陈兆先营垒。陈兆先以所部投降，得兵三万六千余人。十月后，再攻集庆，大败元兵于蒋山。元御史大夫福寿督兵出城接战，被徐达等击败。朱军乘胜攻城，冯胜率陈兆先部降兵奋勇先登，终于攻破城门，打进城内。福寿战死，蛮子海牙逃奔张士诚，水军元帅康茂才率军民五十余万降附。占领集庆后，朱元璋改集庆路为应天府。
在渡江攻拔采石、太平，进攻集庆的战役中，徐达作战勇敢，功勋卓著，成为朱元璋手下的得力战将。占领应天后，朱元璋有了根据地，粮食问题也基本解决，但军事形势仍极为严峻：东边有元将定定扼守镇江；青衣军张明鉴据扬州；张士诚占据平江（今江苏苏州）、常州，又占据浙江西部部分地区。南面有元将八恩尔不花驻守徽州（今安徽歙县），石抹宜孙驻处州（今浙江丽水），宋伯颜不花守衢州；天完徐寿辉则攻占了池州（今安徽贵池）。为了摆脱军事上的不利境况，朱元璋在占领应天后，于当月任命徐达为大将军，统兵东下，进攻东线门户镇江。
大军出发之前，朱元璋为了整顿军队纪律，防止士兵进城后抢掠，故意找徐达的错处，扬言要按军法处治，暗地里让李善长当着众人的面苦苦求情，才松绑，并当面告诫说：“吾自起兵，未尝妄杀。今汝等将兵往，当体吾心，戒戢士卒。城下之日，毋焚掠，毋杀戮。有犯令者处以军法，纵之者罚无赦。”全军肃然，徐达等率军进攻镇江，不到两天，就打败镇守该城的元军，杀其守将定定、段武。徐达率军从仁和门入城，部队纪律严明，号令整肃。老百姓照常生活，就像没打过仗一样，因此很得老百姓的拥护。附近地方听到消息，都翘首盼望他们早日到来。
镇江一役，徐达以战功升任统军元帅，镇守其地。他兢兢业业，克尽职守，一方面安抚百姓，督课农桑；一方面分兵回击，攻下金坛、丹阳等地，以巩固镇江这个最东边的前哨阵地，防止张士诚的西侵。
同年七月，朱元璋在应天，自称吴国公，设立了自己的行政机构。同时设立了自己的军事管理机构江南行枢密院，任命徐达为同佥枢密院事。身为江南行枢密院同佥、镇江统军之帅的徐达，在打退张士诚军一次次的进攻之后，乘胜进围常州。但是，常州守敌据城固守，不肯投降。加上城内兵粮充足，徐达等攻打不下。朱元璋即以军法把徐达及其属下都官降一级，以示惩罚，并写信责备徐达说：“虐降致叛，老师无功，此吾所以责将军，其勉思以补前过；否则必罚无赦！”徐达为常州久攻不下而焦虑，也对朱元璋的责备而沉思，还要应付张士诚军的一次次反扑。可是，徐达处变不惊，沉着地指挥部队迎战，使张军的企图难以得逞。与此同时，驻在城外三十里远的常遇春、廖永安、胡大海等率部赶来增援，内外夹攻，大败张军，生擒敌将张士德。残敌溃逃奔入城内。张士诚见常州危急，派其手下悍将吕珍夜间潜入城内，加强防守能力。徐达督军轮番猛攻，吕珍眼看士气低落，难以支撑，不得不丢弃常州，只身逃遁。到至正十七年（1357年）三月，历时达半年之久的常州攻坚战终于以胜利宣告结束。朱元璋在常州设立长春枢密院，任命徐达为佥枢密院事，汤和为枢密院同佥，统兵镇守该城。接着，徐达等乘胜移师进攻宁国（今安徽宣城），得军士十余万，战马二千匹。继而又攻拔宜兴、常熟、江阴、马驮沙（今江苏靖江）等地，宜兴到靖江一线尽为朱元璋所有。经过两年多时间的努力经营，以应天为中心的朱元璋江南政权已经逐步稳定，大体控制了今江苏、安徽南部和浙江西北部地区。徐达作为朱元璋手下的主要战将立下了赫赫战功。
至正二十三年（1363年）四月，陈友谅“忿其疆土日蹙”，建造高数丈的巨舰，纠集号称60万人的大军，倾巢而出，进围南昌。朱军守将朱文正、邓愈、赵德胜、薛显率领全城将士殊死搏战。坚守八十五天，使陈友谅顿兵坚城之下，未能前进一步。南昌守军浴血奋战，为朱元璋从容调兵遣将，准备与陈友谅决战赢得了宝贵的时间。
七月初六，徐达遵照朱元璋的指令，回师救援南昌。朱元璋在龙江（今江苏南京兴中门外）誓师，亲率大军20万进击陈友谅。陈友谅听说朱元璋亲率大军到来，遂解南昌之围，东出鄱阳湖返战。这是一场关系到双方生死存亡的大决战，史称“鄱阳湖之战”。徐达作为主攻部队，率军先行，首先与陈友谅相遇于康郎山（今江西南昌康山），两军依湖对阵。陈友谅军人多势众，舰船高大，气势汹汹。徐达毫无惧色，身先诸将冒死闯阵，其部下将士大受鼓舞，无不以一当十，奋勇冲杀。徐达部一举击败陈友谅前锋，斩杀一千五百余人，缴获巨舰一艘，初战告捷。接着俞通海等乘风发射火炮，焚毁敌船二十余艘，烧死、溺死很多敌军。徐达在敌阵中奋力拼杀，连续酣战。大火从敌船上烧到徐达的战船上，他一面指挥士兵扑火，一面继续与陈军格斗，越战越勇，并指挥战船在敌阵中节节推进。双方在康郎山鏖战整整一天，湖水被血染成了红色，天空也被炮火硝烟遮蔽得暗淡昏黑。朱军在徐达等勇将的率领下，殊死搏战，击退陈友谅的进攻。此战，徐达首挫敌锋，壮大全军声威，为朱元璋取得决战胜利奠定了基础。当天晚上，朱元璋为防止东线张士诚利用鄱阳湖大战之机乘机入寇，命令徐达撤出战斗，回守应天。徐达走后，朱元璋指挥将帅士卒继续与陈友谅在鄱阳湖上血战，最终击毙陈友谅，全歼陈军主力，取得鄱阳湖大战的胜利。
卓越的指挥才能
徐达回到应天后，严格训练部队，加强东线守备力量。缉查奸细，修缮城池，张士诚无缝可钻，未敢贸然进犯。后来朱元璋称赞徐达说：“我让徐达回守应天最为放心，无论遇有什么问题，他都能妥善处理。”可见朱元璋对徐达多么信任。
鄱阳湖大战后，朱元璋还师应天，徐达等率军攻克庐州。不久，奉命再返湖广前线。徐达先后率兵相继攻取江陵、夷陵（今湖北宜昌）、湘潭州（今湖南湘潭）、辰州（今湖南沅陵）、衡州（今湖南衡阳）、宝庆（今湖南邵阳）、靖州（今湖南靖县）等地，彻底肃清陈友谅残余势力，占领湖湘地区。徐达在消灭陈友谅割据集团的战役中，身经数十战，建立了赫赫战功。为表彰徐达的功绩，朱元璋在至正二十四年正月称吴王后，任命徐达为左相国，地位在众将之上。
至正二十五年（1365年）十月，徐达等奉命率马步舟师水陆并进，攻取淮东、泰州等地。大军渡过长江，一举攻克泰州海安坝（今江苏海安），进围泰州。经月余血战，终于攻克泰州，擒守将严再兴五千余人。之后，徐达又攻下通州、兴化、濠州等地。徐达在这些战斗中，师出迅捷，变化无穷，表现出卓越的指挥才能。
至正二十六年八月十二日，朱元璋任命徐达为大将军，常遇春为副将军，率军二十万讨伐张士诚。徐达用反间计制胜，使张士诚的老巢平江完全陷入孤立。次年，徐达亲率将士攻破葑门，大军一拥而上，进入平江城内。张士诚兀自率兵巷战，但其手下将士已无斗志，纷纷投降。张士诚见大势已去，纵火焚死其妻儿，闭门上吊自杀，被其部将解救，徐达将其押送应天。破城之日，徐达严格约束部下，立下军令：“掠民财者死，毁民居者死，离营二十里者死！”率军入城，纪律严明，秋毫无犯，很受百姓的欢迎。徐达论功封信国公，是此次封赏的最高爵位。
吴元年（1367年）十月二十一日，徐达为征虏大将军、常遇春为副将军率师二十五万由淮入河，北取中原。十二月攻克济南，收俘元军3855人，马429匹。在北伐军的节节胜利声中，朱元璋于翌年正月在应天登基称帝，建国号为大明，建元洪武。徐达被封为中书右丞相兼太子少傅。
元顺帝逃至上都，仍然保持着一套政府机构，军事上仍然具有一定实力。洪武二年（1369年）二月，徐达统帅大军攻取山西、秦陇。徐达在扫平山西、出师秦陇的整个作战过程中，抓住扩廓帖木儿北出雁门关、进攻北平之机，乘虚直捣太原，倾覆扩廓的巢穴，使其进退失据，一举平定山西。抓住陕西元军李思齐、张思道遥巡观望、不敢主动出击的时机，直入奉元，进逼临洮，围困庆阳。似摧枯拉朽，风卷残荷，降李思齐，斩张思道，威震关陇。徐达用兵出奇无穷，克敌制胜，表现出过人的胆略和指挥才能。
徐达出师秦陇，平定关陇后，明朝北方版图已达今河南北、山西、陕西、宁夏、甘肃一线。但扩廓帖木儿仍驻扎在沈儿峪（今甘肃定西西北），火儿忽答驻扎云州（今河北赤城北云州镇），纳哈出驻屯金山，失喇罕驻军西凉州（今甘肃武威）。扩廓帖木儿在西北活动猖獗，趁徐达平定关陇之师凯旋京师，大举围攻兰州。洪武三年（1370年）春，徐达征尘未洗，又受命为征虏大将军，率李文忠、冯胜、邓愈、汤和等分兵两路，扫荡侵扰北方的元朝残余力量。徐达从潼关向西进军，出西路捣定西，进攻扩廓。徐达此次率军北征，取得较大胜利，逼使元朝残余势力向应昌、定西一线北撤。从此，明朝北边的防御趋于稳定。
同年十一月，徐达等班师回朝，朱元璋亲自到龙江迎接北伐将士。随后，大封功臣，徐达因功授开国辅运推诚宣力武臣，特进光禄大夫、左柱国、太傅、中书右丞相参军国事，封魏国公，岁禄五千石，子孙世袭。为了进一步打击残余元军，洪武五年（1372年）正月，徐达再次以征虏大将军的身份率军北征。这是一次大规模的军事行动，分兵三路，“肃清沙漠”（指对蒙古用兵）。徐达从雁门关出塞，直趋和林，作为中路军。三月，徐达师抵山西边境，派蓝玉为先锋，出雁门关向北挺进。蓝玉在野马川击败扩廓部流动部队，徐达率军至土剌河（今蒙古人民共和国境内土拉河），再败扩廓军。扩廓败逃后，与贺宗哲合为一军，在岭北布下阵势阻击徐达部队。扩廓、贺联军拼死进攻，明军受挫，死伤数万人。徐达处变不惊，收缩战线，坚守营垒，才免遭大败。然后，徐达整军而还，敛兵守塞。扩廓军队见此未敢贸然追击。由于蒙古军事力量一时难以消灭，明朝对北方的战略从以攻为主转为以防御为主。从此，徐达长期在北平、山西一带练兵备边，镇守北平十余年。
徐达在镇守北平期间，先后三次迁徙山西农民到北平屯田种地，以加强北平的防御力量。徐达将他们分散到长城沿线各卫所，按其户籍服役课税。属籍军户的，发给衣服、食粮，使应军差；属籍民户的，分给田地、牛、种子，使纳租税。前后移民三万五千多户，十九万余人，建立屯田点二百五十余个，垦田一千三百多顷。徐达的这些措施大大减轻了北方军队的粮饷供应问题，使明朝北部边疆日趋稳定。同时，徐达严格训练士卒，修缮城池，加强守备，谨严烽燧，时时防备蒙古军队的侵扰。徐达被视为塞上长城。明朝建国后，随着文臣地位的提高，过去立下汗马功劳的武臣逐渐受冷遇，但是徐达始终受到朱元璋的重用，捍卫着明朝北方的安全。
长期的戎马生涯，奔波劳累，使徐达的身体逐渐支撑不住，最终积劳成疾，一病不起。洪武十七年（1384年）闰十月，徐达在北平病重，朱元璋遣使召还应天。翌年二月二十日病逝于应天府邸，时年54岁，追封中山王，谥武宁。赐葬钟山，配享太庙，名列功臣第一。
常遇春
常遇春（1330年~1369年），字伯仁，安徽怀远人。貌奇体伟，勇力过人，猿臂善射。原来当过土匪，在和阳归顺了明太祖朱元璋。明初名将。在朱元璋的部队里为前锋，朱元璋攻灭张士诚，北上灭元，都用做副将军。身经百战，经常打胜仗。
常遇春是明代开国皇帝朱元璋麾下的一员骁将。他身为军中前锋，作战勇猛，席卷幽燕，直捣元上都。由于他曾攻克了开平府（在今内蒙古正蓝旗），被封为开平王鄂国公。洪武二年（1369年），年仅39岁的常遇春因得“卸甲风”，攻克开平还师时病死于柳河川军中。朱元璋痛失爱将，以诗悼之，“忽闻昨日常公薨，泪洒乾坤草木湿。”并将其作为陪葬明孝陵的勋臣，择墓于南京太平门外，赐给祭田。后又在南京鸡笼山下建的功臣庙中，将其居于首位以祀之，甚见尊礼。
戎马生涯
至正十五年（1355年）六月，常遇春投奔朱元璋不久，朱元璋即率军渡江南下。在著名的采石矶战役中，面对着元朝水军元帅康茂才的严密防守，常遇春乘一小船在激流中冒着乱箭挥戈勇进，纵身登岸，冲入敌阵，左右冲突如入无人之境。朱元璋即挥军登岸，元军纷纷溃退，缘江堡垒纷纷归附。朱元璋乘胜率军攻占太平。次年三月，又攻占集庆，改为应天府。集庆及其周围地区的占领，使朱元璋获得一块财富之区，为在江南的继续开拓和壮大奠定了基础。这一阶段的战斗，常遇春锋芒初露，立了头功，开始受到朱元璋的信用，由渡江时的先锋升至元帅。