至正二十六年（1367），朱元璋任命徐达为大将军，常遇春为副将军，率军20万讨伐张士诚。此时张士诚以平江（今江苏苏州）为中心，以湖州（今浙江湖州市）、杭州（今浙江杭州市）为其羽翼。朱元璋和徐达一致认为先攻取湖、杭两州，斩断张士诚的左右臂，平江便唾手可得。在此战略考虑下，徐达、常遇春便率主力攻打湖州。湖州守军分三路来拒徐达，徐达亦分兵三路迎敌，并派将断敌归路。不敌徐军的张军只能退守城中以求固守。此时，张士诚派吕珍率军6万来援，屯兵旧馆，牵制徐达。徐达认为，必先除掉援兵才能攻克湖、杭两州。于是，他决定暂停攻城，先派兵夜袭敌援兵营地，然后在城东的姑嫂桥筑起十座堡垒，扼守旧馆与湖州的通道，切断吕珍军粮援。缺乏粮饷的旧馆守敌只好出来投降。不久，湖、杭两州亦相继被攻克。张士诚的左右臂被斩断，平江即成为孤城。徐达遂引兵北上，会合诸将进围平江。徐达采用前人所提的“销城法”攻平江，即在平江城矢石不到的地方，构筑长围，又架筑三层木塔，俯瞰城中，置弓弩火炮于其上，向平江城内射击。张士诚负隅顽抗，企图设法突围，均被徐达击败，只得困守城中，坐以待毙。
元至正二十七年（1367）九月，平江城中粮食缺乏，木石俱尽，张士诚已陷入绝境。徐达见时机已成熟，便亲率将士攻入平江城内。张士诚企图率兵巷战，可手下士兵已无斗志，纷纷投降。张士诚见大势已去， 将妻儿焚烧后上吊自杀，但被其部将解救，终成徐达的战利品被押送应天。朱元璋认为在攻克平江中徐达立有大功，封他为信国公，是此次封赏的最高爵位。
直捣大都平定晋陕
元至正二十七年（1367），朱元璋任命中书丞相、信国公徐达为征虏大将军、中书平章政事，掌军国重事；常遇春为副将军，率步卒骑兵25万人，由淮河入黄河，北进夺取中原。朱元璋在对众将的告谕中称：带兵稳重而又纪律严明，攻取城池和战争得胜时最有大将风度的，均是徐达。同时又告诉徐达，下一步的军事行动计划，应当从山东开始。十一月，徐达进军山东，经过数次战斗，将山东全部平定。
洪武元年（1368），朱元璋在应天（今江苏南京）称皇帝，定国号为明，建元洪武，是为明太祖高皇帝。任徐达为右丞相兼太子少傅。不久，明太祖朱元璋又在汴梁设酒宴慰劳徐达，同时做北伐之计划。
徐达按照朱元璋的部署，与副将军常遇春在河阴会师，分派人马攻占河北各地，接连拿下了卫辉、彰德、广平。部队驻扎在临清，命傅友德修筑陆路，以便骑兵通过，又疏通了河道，以便水师通行。等一切准备就绪之后，挥师北伐元朝。常遇春很快攻克了德州，双方合兵攻占了长芦，控制了直沽，造了大量浮桥让士兵渡过。水陆两军同时进发，先将敌军击败于河西务，进而又夺取了通州。元顺帝仓皇北逃。隔了一天，徐达列兵齐化门，命令人马填平城外壕沟登城。监国的淮王帖木儿不花、左丞相庆童、平章迭而必失、朴赛因不花、右丞张康伯、御史中丞满川等因拒绝投降而被徐达下令处死，其余众人没有杀掉一个。查封仓库，造册登记图籍珍宝文物，命令指挥张胜领兵1000守卫宫殿门，使宦官保护照顾各宫人、妃嫔、公主，禁止士卒无礼侵犯。官吏百姓都得以安居，市内的作坊店铺也都照常营业。朱元璋收到捷报后，下诏将元朝的京城大都改为北平府，设置六个卫，令孙兴祖等留守，徐达、常遇春便向西进取山西、陕西。
明军以常遇春为前锋，徐达殿后，由河北越过太行山进入山西南部。据守太原的扩廓帖木儿，分兵南下争夺泽州（今山西晋城），以截击徐达，自己则引兵出雁门关，妄图从居庸关偷袭北平。徐达闻讯，召集部将商议，他认为孙兴祖驻守北平，完全可以抵挡扩廓帖木儿的进攻。他说：“我们应该乘敌不备，直捣太原，使之进不得战，退无所守。如果扩廓帖木儿回师还救太原，进退失利，必然就擒。”部将一致赞同他的主张。于是，他便引兵北上，直捣太原。扩廓帖木儿领兵进至保安（今河北涿鹿）时，得到消息，立即回兵援救太原。十二月，扩廓帖木儿的前锋万名骑兵匆匆赶到太原城下，被傅友德、薛显率领的几十名骑兵击退。扩廓帖木儿下令在城西扎营，压着明军布阵。徐达的部将郭英登高眺望，见元军虽然兵多但军容不整，营垒虽大但无防备，便提出乘夜袭敌营的建议。这时，刚好扩廓帖木儿的部将豁鼻马暗中派人请降，表示愿作内应，徐达立即采纳。他先派50名骑兵埋伏在城东10里之处，约以举火鸣枪为号。待到半夜，敌军已进入梦乡，偷偷摸入敌营的郭英立举火鸣枪。埋伏的骑兵得到信号，立即冲杀过来，常遇春也率领大队人马赶到，击鼓呐喊，遥相呼应。被惊醒的敌军不知发生了什么事，军心大乱，四散奔逃。正在营帐里秉烛读书的扩廓帖木儿赤脚爬上一匹马，逃往大同。豁鼻马带领4万名将士和4万多匹马，向徐达投降。常遇春带兵追击扩廓帖木儿，扩廓帖木儿又逃奔甘肃。明军乘势攻占大同，很快平定了山西全境。
洪武二年（1369）二月，徐达率领明军渡过黄河，进攻陕西，占领奉元路，改名为西安府。元将李思齐逃奔凤翔，张思道逃往庆阳。四月，徐达统兵攻克凤翔，李思齐又逃至临洮。张思道的军事才干不如李思齐，诸将都主张先攻庆阳。但徐达却认为庆阳城防险固，守敌剽悍，一时很难攻拔。而临洮与黄河、湟水及西方少数民族地区相连，拿下这个地方，可以补充兵力和物资。我们大军压上，李思齐如果向西逃窜，就会束手就擒。临洮一攻克，其他地方便可不战而下。诸将觉得他的看法高人一筹，一致表示同意。明军遂移师西进，连克陇州（今陕西陇县）、秦州（今甘肃天水）、巩昌（今甘肃陇西），然后分兵两路，攻占了兰州，迫使李思齐投降。张思道听说李思齐投降，异常恐慌，逃奔宁夏，为扩廓帖木儿所执。其弟张良臣守庆阳，见徐达率兵攻陷平凉，就投降了徐达，然不久又再次反叛。徐达派傅友德、俞通源、陈德、顾时分别从东、西、南、北四个方向攻占庆阳的外围地区，切断张良臣与外界的联系，自己则督率诸路大军包围了庆阳。经过3个多月的围攻，张良臣部将姚晖等人开门迎降。徐达领兵自北门入城，擒斩张良臣父子。陕甘地区至此被明军所控制。
再征扩廓功高不夸
洪武三年（1370）春，因当时副将军常遇春已去世，朱元璋就以徐达为大将军，以李文忠为副将军，分路出兵。徐达从潼关向西进发，直攻定西，捉拿扩廓帖木儿。李文忠从居庸关向东进发，穿过大漠，追击扩廓帖木儿所立的元朝继位皇帝。
徐达到了定西，扩廓帖木儿退军驻扎在沈儿峪。双方隔着沟壑修建堡垒，每天都要有几次战斗。扩廓帖木儿派精锐部队从小路攻打明军东南面的堡垒，将仓皇失措且又指挥不力的胡德济杀得惨败。徐达率军支援，才击退了敌军。徐达因胡德济是功臣胡大海之子，就斩了他手下几位部将，然后将胡德济押往京师送交皇帝。第二天，徐达调整军队强渡沟壑，拼死作战，大破扩廓帖木儿的军队，擒获其文武官员1860多人，将士84500多人，马匹骆驼各种牲畜无数。扩廓帖木儿只带着妻子儿女几人向北逃过黄河，奔往和林。
徐达打败扩廓帖木儿后，又率领军队，攻克沔州，进入连云栈，夺取兴元。同时，副将军李文忠也攻克应昌，俘获元朝的嫡孙、王妃、公主、将相一干人等。二人先后向朝廷传送捷报，朱元璋诏令班师回京，并亲自到龙江迎接慰劳。朱元璋拜授徐达为开国辅运推诚宣力武臣，特进光禄大夫、左柱国、太傅、中书右丞相参军国事，改封魏国公，每年俸禄5000石，授予世代享受免死特权的铁券。
洪武五年（1372），朱元璋再次大举征讨扩廓帖木儿。徐达以征虏大将军的身份从中路出发，左副将军李文忠从东路，征西将军冯胜从西路，各率5万人马出塞。徐达派都督蓝玉在土剌河击败扩廓帖木儿。扩廓帖木儿又召集兵力，奋力反击，徐达作战不利，死了数万人。皇帝因为徐达以往功劳卓着，没有问罪。
李文忠以左副将军身份从东路北伐，兵出居庸，进军和林，并留下军械粮草，只带20天干粮，亲率大军追击元军。元太师蛮子哈剌章率全部人马渡河，列阵以待。李文忠率军逼近敌阵，敌军抵挡不住向后撤退，一直追到阿鲁浑河，敌军来支援的越来越多。但李文志拼死战斗，击破敌军，俘虏数万人。明军追逐逃敌一直到称海，再次大破敌军，后挥师南返。这一仗两军胜负相当，但宣宁侯曹良臣、指挥使周显、常荣、张耀都战死了，因此朝廷没有给他们颁发赏赐。
征西将军冯胜率副将军陈德、傅友德等从西路出发，夺取甘肃。到达兰州后，傅友德用骁勇骑兵做先锋，两次大败元军。冯胜一路顺风，率军到达别笃山，元朝的岐王朵儿只班逃跑，明军追赶活捉其平章长加奴等27人，缴获10万余只马、骆驼、牛、羊。冯胜军队凯旋而回。但因有人状告他私藏驼马，朱元璋也没赏赐于他。
第二年，扩廓帖木儿又进攻雁门，朱元璋只是采取了防守政策，不再出塞。这以后，扩廓帖木儿跟从他的君主迁到会山，死在哈剌那海，他的妻子毛氏也上吊自杀。至此，元朝残余势力再也无力南下了。
徐达生于农家，成长于战争，使他既秉承了农家子弟吃苦耐劳的本性，即作战时每每冲锋在前，同时又有强烈的求知欲望，总是勤奋学习。行军打仗，徐达总是在军营里礼聘博学的儒士，恭恭敬敬地请他们讲解古代兵书，虚心向他们求教，这使徐达成为名副其实的谋略家。除学习兵法之外，对做人之道、为臣之术他也有深刻的领悟，封建传统文化所宣扬的谨慎态度、谦虚精神和忠君意识都在他身上有所体现。
徐达深知自己功高难赏，便尽量在各方面作出推让的姿态。当时朝堂之上，丞相胡惟庸权势熏天，对朝廷大事独断专行，朝廷内外，谁都惧怕他三分，但是徐达鄙视胡的为人，不肯与他同流合污。胡惟庸讨好徐达不成，便企图陷害他。他收买徐达的守门人福寿，但福寿不为所动，向徐达揭发了胡的阴谋。徐达对这件事采取了谨慎退让的态度。他对胡的阴谋不予追问，也不与他正面交锋，只是不断地提示朱元璋，暗示胡惟庸心术不正，为人奸贪，不适合做丞相。后来，胡惟庸罪行暴露，被罢官处死，朱元璋对徐达也更加器重了。
洪武十七年（1384），徐达在北平生病，背上长疽。第二年二月，徐达病重，不久便去世，享年54岁。