东晋十六国时期，是中国历史上最黑暗、最混乱的时代。在长江以北，先后出现了20多个大大小小的政权，我们统称为“十六国”。除了早期的后赵、中期的前秦以及后期的北魏之外，其他的政权面积都很小，实力有限。而当时在面积、人口、军事上长期处于绝对优势的是东晋。东晋王朝也先后发动了四次较大规模的北伐战争，但是为什么始终无法统一南北呢？
从西晋以来，北方爆发了八王之乱、永嘉之乱，经济遭到了严重的破坏，民族矛盾和阶级矛盾尖锐。而南方则相对比较安定，于是大量的北方百姓选择南迁。根据谭其骧等人的推测，当时选择南迁的户籍人口大约有90万。而西晋皇室以及世家大族也纷纷南下，在江南建立了东晋政权，史称“衣冠南渡”。
大量的人口南迁，为南方的经济发展提供了充足的劳动力。根据葛剑雄的《中国人口史》的资料，东晋初期的人口达到了1000万，基本和北方持平；到东晋后期，人口已经到达了1700万，大大超过了北方。人口南迁加速了南方的经济发展，依靠繁荣的江南经济，东晋“财阜国丰”，完全可以支撑其统一北方的大业。
然而，东晋内部并非和谐。首先，东晋名义上是一个统一的国家，但是实质上却是四分五裂。以汉代的地域为划分，南方分为扬州、益州、荆州、交州四大地区，交州地区的经济比较落后，地广人稀，因此在人力、财力上无法提供更多帮助。益州在东晋一般处于割据状态，早期有成汉政权，直到桓温时期才收复；东晋中期又被前秦占据，后期又是谯纵割据。因此，真正能够为东晋提供比较稳定的支撑的就只有荆州和扬州。
偏偏荆州和扬州的矛盾又十分突出。扬州是东晋的京畿之所在，乃立国根本。扬州北有长江天险，是抵御北方民族南下的天然屏障。北方民族想要南下进攻东晋，必然会先进攻长江上游，然后再顺流而下。因此，长江上游的荆州就成为了东晋的防御重心。东晋在荆州的军事力量十分雄厚，“资实兵甲，居朝廷之半”。
整个东晋时期，坐镇荆州的将领都有“不臣之心”。最早坐镇荆州的王敦曾发动“王敦之乱”，后来又有陶侃、庾亮、庾翼、桓温、桓豁、桓冲、殷仲堪、桓玄等坐镇荆州，掌握上游兵权，其中桓玄在403年攻破了建康，称帝，改国号为楚，于是东晋实质上已经灭亡。从王敦之乱到桓玄起兵，东晋至始至终都陷入了荆扬之争的泥潭，使得国家没有多余的力量进行北伐。
荆州和扬州的军阀，为了取得帝位，往往通过北伐来提高自己的声誉。这也决定了东晋的北伐基本就局限于黄河之南，不能深入河北。如桓温北伐收复了洛阳，攻入了关中，但是桓温却不愿意挺进长安，因为桓温不愿意陷入北方战争泥潭而消耗自己的军事资本。
东晋内部的第二大矛盾就是司马家族和士族的矛盾，以及南方士族和北方士族的矛盾。晋室南渡，南北方士族的支持。在南渡初期，北方士族思念故土，于是想收复北方。但是南方士族认为北伐消耗的不过是江南过去累积的财富，而北方就算成功，南方士族也得不到什么利益，因而不支持北伐。在这样的条件下，司马睿只能力求稳定，不想大动干戈。当祖逖提出来要北伐的时候，司马睿不反对，但也不支持。
晋朝主要大族地望分布
当北方士族在江南一带获得土地，建立更加富饶的庄园后，他们也没有了北伐之心了。而北方士族定居南方，自然损害了南方士族的权力。在南渡之初，曾经三定江南的南方士族代表周玘发动了叛乱，之后周勰、徐馥、孙弼、周续等江南士族陆续起兵。南方士族的起义被平定后，北方来的王氏就尽灭义兴周氏和吴兴沈氏两支最强悍的家族，使得南北士族矛盾暂时被压制。