自秦国实现大一统，秦始皇嬴政建立了中国历史上第一个大一统王朝——秦朝，此后就有了大一统和大分裂的定义，比如南北朝时期(420年~589年 )是中国历史上的一段大分裂时期，长达三百年，同时在这段时期中，促进了民族大融合，直到公元589年，隋灭陈后，结束了分裂局面，再次实现了大一统。那么在这漫长的时期中，为什么到了隋朝才实现了一统天下，这少不了前人立下的功劳。
先说这次大分裂的起因，南朝是汉族政权和东晋的延续，在南方，先后有宋、齐、梁、陈四个政权的更迭，而北朝则是继承五胡十六国，是一个胡汉融合的北方朝代，有北魏、东魏、西魏、北齐、北周等数个王朝，大部分皇室为鲜卑族，与中国南朝时代并存。北朝继承的五胡十六国同样是一段大分裂时期，从北朝继续延续，自304年李雄和刘渊分别在蜀地建立成国(成汉)、在中原建立汉赵(后称前赵)时起，此后北方就陷入了“五胡乱华”。
这五胡就是匈奴、鲜卑、羯、羌、氐的游牧部落联盟，他们趁着西晋末年八王之乱期间衰弱之际内迁，继而建立国家，与南方的汉人政权形成对峙的局面。一般来说，中原地区上的战争都是由汉人组成的，争来争去无非就是要在中原汉人中当皇帝，可如今少数民族也掺和进来了，还是一股不小的势力，这可就难办了，想要实现大一统就没那么容易了。
若不是西晋的“八王之乱”，司马皇祖为争夺中央政权而引发内乱，导致西晋衰弱，也不会引来匈奴人刘源灭亡西晋，此后中国进入五胡十六国时期。从汉朝以来，北方的少数民族一直都是被武力镇压的，但一直有胡人向中原迁徙，逐渐盘踞华北地区，势力不断壮大，趁着西晋内乱，他们发兵侵扰中原，在百余年间先后由胡人及汉人建立数十个强弱不等、大小各异的政权。
而南朝虽然都是汉人政权，期间各个国家都出现过几位有着雄才大略的皇帝，出征北伐，但是南方的经济和军事实力太弱，根本无法镇压北方的少数民族政权，在明朝之前，中原地区上大多都是北方统治南方，少数民族之所以被称为少数，是因为他们的人数少，实在是比不得汉族人口，这或许与少数民族的强悍野蛮有关。
后赵政权曾经实施过民族融合方案，但最终失败了，他们本来想着先完成民族融合，然后再统一全国，北方历朝历代的皇帝大多都是这样的想法，为此想出了不同的解决方案，比如后赵的开国者石勒大字不识一个，他想着要施行民族隔绝，隔绝汉族，但他的堂侄石虎，也就是第二任皇帝。
当时有个和尚给他提了建议，拉拢汉人，让他们安居乐业，到时他们就不会帮东晋对付后赵，如此石虎就雇佣汉人做工程，在十几万汉人的修建下，邺城的城墙被修得十分完善，可遇到一场大暴雨而后，城墙就塌了，压死了几万人。随后石虎又搞了几个工程，害死了不少的汉人。
在石虎的折腾下，汉人之中有一个叫“冉闵”的人，此人就是后来东晋十六国当中“冉魏”的创始人，他带着汉人杀了“羯族”的首领和皇族，让剩下的几十万羯族人出城，汉人进城，双方拥堵在一起，他又下令让汉人随便杀羯族人，还会给他们赏赐，几天之内几十万的羯族人就被杀死，这个噩耗让上百万的胡人开始逃亡。从这里看出，汉人被压迫奴役久了，一旦抓住机会，就会进行反抗，到时侯人数多的优势就充分体现出来了。
民族隔绝的方案不行，很快前秦的苻坚就想出了民族包容政策，但最终还是因为“淝水之战”失败了。他宣告在北方区域内，汉人可以自由进入，而且苻坚认为若是让汉人的精神支柱变为他们，那就好办了，他想着要打败东晋，这样汉族士人就会归附他们，汉族百姓迟早也会归顺的。
