1368年1月23日，元朝至正二十八年，明太祖朱元璋统一南方，建立明朝，之后派遣徐达领兵北伐中原，进攻元朝首都大都。

此时的元朝皇帝是元惠宗，在明朝大兵压境的情况下，9月10日元惠宗率领三宫后妃、皇太子、皇太子妃以及大小官员百十余人，开大都的健德门，撤退北走上都。9月14日，明军从大都的齐化门攻城而入，监国淮王帖木儿不花，中书左丞相庆童，平章迭儿必失、朴赛因不花，右丞张康伯，御史中丞满川等人拒绝投降而殉国，元朝在中原的统治结束，回到本土蒙古草原。

此时的元朝仍控制着中书省的西部地区、岭北行省、辽阳行省、甘肃行省、陕西行省，以及位于西南的飞地云南行省等省份，仍保有一定的力量，与明朝形成南北对峙，这是中国历史上又一个南北朝时期。

元惠宗撤离大都后，继续使用“大元”国号。经过与明朝的几次战争，北元先后失去几十万兵力，再也无力南下与明朝相争，元惠宗试图恢复中原故土的企图彻底失败。元惠宗死后，元昭宗即位，立意仿效周宣王姬静、汉光武帝刘秀等中兴帝王一样中兴大元，恢复元朝在中原的统治。

但元朝已经属于强弩之末，在明军六次北伐的强大攻势下，元朝在军事、经济方面遭受了巨大损失，彻底丧失了与明军争夺天下的实力和信心。对于明朝而言，蒙古已经成为了“边患”，而不再是前一个中原王朝的残余势力。

元昭宗去世，其弟元天元帝脱古思帖木儿继位，继续和明朝对抗，屡次进攻明朝边境，但都掀不起多大的浪花。

1388年也速迭儿用弓弦缢杀了元天元帝篡位称汗之后，蒙古开始逐渐分裂为东部鞑靼（蒙古本部）、西部瓦剌、鞑靼东部兀良哈三大部落。

元天元帝败亡之后又历经四代传至坤帖木儿时，鬼力赤于明建文四年（1402年）杀害坤帖木儿，继而登上大汗之位。明正统三年（1438年），瓦剌部的脱欢扶植大汗脱脱不花击败同时并立的大汗阿岱，统一了蒙古诸部。明正统十四年（1449年），脱欢之子也先入侵明朝，俘虏明朝皇帝明英宗朱祁镇，史称土木堡之变。[达延汗与满都海哈屯在15世纪重新统一蒙古诸部，史称达延汗中兴。

然而，达延汗在帝国以封地的名义分封于其儿子与亲戚，导致了帝国统治的权力下放尽管权力下放，但是达延汗与蒙古贵族之间仍保持着良好的关系，孛儿只斤家族的内斗并不严重，直到林丹汗统治期间（1604年－1634年），蒙古内部的纷争中削弱了自身的力量。

明崇祯八年四月二十八日（1635年6月12日），林丹汗之子额哲投降清太宗皇太极当时统治的后金政权，元太祖成吉思汗建立的大蒙古国历经430年之后正式宣告灭亡。

历史上我们一般把元朝的灭亡时间定于1368年。而“北元”的“北”通常用于区分1271年建立的元朝和1368年之后的政权。

但是长期以来，对于这一史学概念的使用范畴却众说不一。争论的焦点就是“北元”是指1368年至1388年这20年间的蒙古历史，还是指1368年至1635年这268年间的蒙古历史。

其实，我们所说的“北元”仅指大蒙古国的一个阶段。大蒙古国（1206年－1635年）依照中国名称的划分，可划为蒙古（1206年－1271年）、元朝（1271年－1368年）、北元（1368年－1388年）、鞑靼（1388年－1635年）。从成吉思汗开始的“大蒙古国”政权仍然继续，鞑靼政权长期沿用元朝时代的汉制职官，至达延汗时才基本取消。大蒙古国政权延续至1635年察哈尔部为满洲的后金所灭亡