公元1367年十二月上旬，徐达继续进攻元朝，他带领士兵到了济南，元将多尔济投降，密州、蒲台、邹平的元将，先后请降。
徐达决定继续向东略地，命傅友德进攻莱阳，自己带兵返回益都，东攻登、莱二州。
元顺帝见山东形势危急，命中书右丞相伊苏、太尉知院托和齐、中书平章政事呼琳岱、陕西行省左丞相图噜等进军山东，然而诸将都不听从命令。
至正二十八年，公元1368年三月，徐达在基本上占领山东之后，从济宁进攻汴梁，同时派一部分军队经河南永城、归德趋许昌，并命邓愈率襄阳、安陆、江陵之兵北攻河南南阳，策应北征主力作战。三月底，徐达进抵陈桥，元汴梁守将李克彝夜驱军民西遁，元将左君弼率所部投降。徐达进入汴梁后，立即率步骑经中湾西攻洛阳。
四月上旬，徐达军自虎牢关进至洛阳塔儿湾，元将托音率5万元军在洛水以北列阵，被常遇春强行突破，退至陕州。驻守洛阳的元梁王阿哩衮见大势已去，率官民出降。
徐达继续挥兵略取嵩、陕、陈、汝诸州，并命冯国胜率所部进攻潼关。由汴梁退守潼关的元将李思齐和张思道，听说明军又逼近潼关，急忙率领部队西逃。
明军向西连续攻克陇、秦、巩昌、兰州等地，进逼临洮，李思齐末路穷途，只好投降。
徐达命薛显进攻西宁，亲率主力进攻庆阳。
五月初，徐达连续攻下安定、会州、靖宁、隆德，经萧关前往平凉，一方面分兵进驻战略要地延安及泾州，另一方面派张涣率骑兵侦察庆阳的动静。
张思道早在明军攻克临洮时，便留下弟弟张良臣与部将姚军守庆阳，自己则逃往宁夏，结果被库库擒获。张涣派人招降张良臣，张良臣得知其兄被库库治罪，决定降明，但迅即又叛。
徐达下令四面包围庆阳城，张良臣恃险顽抗，并向塞外的库库求救。库库为救庆阳，兵分三路牵制明军，一路攻大同欲下太原，一路攻风翔，一路攻泾州。七月中旬，库库部将哈南下攻原州，致使战局为之大变。
徐达见库库兵势甚猛，暂取守势，命徐礼守驿马关、叶石真守彭原、韦正守郐州、傅友德、薛显守灵州，控扼各处要害。不久，哈布攻下泾州，致使徐达大军腹背受敌，幸得冯国胜自驿马关引兵来救，才将哈札儿击退。
八月上旬，张良臣在庆阳粮饷已尽，外援无望，其部将开城投降。数日后，库库派往大同和凤翔方面的军队，亦被明军击溃。
洪武元年七月二十七日，徐达攻克通州。八月二日，包围大都，然而大都无人守卫，至此，元朝灭亡，北元开始。
徐达继续元军，他率军进入山西，很快先取了泽州、潞州，先行站稳脚跟。
王保保却急于与徐达一决雌雄，他由太原北去，向大都的方向前进。
徐达接报，依刘伯温定的计谋，并不回师救大都，反而决定径取太原。
王保保听说太原告急，慌忙回师救援，率数万骑兵驰回，在太原城下扎营，邀徐达决战。
徐达按兵不动，先消磨元兵锐气，在晚上突出奇兵，夜袭王保保军营。
徐达身先士卒，骑着降服的乌骓马，黑夜中犹如天降神兵，所向披糜，王保保未及披甲出战，便被败兵护著逃跑了。
王保保逃到大同，由大同移军定西，在明太祖洪武二年冬，率军围攻明军于兰州。
徐达率主力赶到，在定西以北对垒。
这次徐达决定与王保保决战，双方交锋之下，徐达全歼王保保军八万多人，王保保仅带了妻儿亲兵数人，逃去元人的发源地上都，保元顺帝的太子去了。
洪武二年，公元1369年二月，徐达挥师西渡黄河。
大军进抵鹿台，元将张思道闻风而逃。
徐达连克奉元、秦州、伏羌、宁远、巩昌，派大将冯胜进逼临洮，元将李思齐不战而降。又分兵攻克兰州、平凉，张思道逃奔宁夏。不久，庆阳断粮，张良臣的部将打开城迎降，徐达率车冲入城中，擒斩张良臣父子。
庆阳之战，标志着徐达彻底平定陕西。
洪武三年，公元1370年正月，徐达受命为征虏大将军，兵分两路。
李文忠率东路军出居庸关，北追元惠宗；徐达与冯国胜、邓愈、汤和率西路军出潼关，往安定西击库库。在出征前，朱元璋又命华云龙、金朝兴、汪兴祖等先期进攻云州，以吸引敌人注意力，并策应徐达、李文忠作战。二月，华云龙攻破云州，金朝兴攻克东胜州，汪兴祖攻克武州、朔州。