淝水之战成为前秦统一政权的转折点。战败后的前秦政权迅速瓦解，北方又恢复了民族政权争斗不息的混乱局面。当然，政权之间的混战就是为了相互兼并，争夺地盘，因而各政权间不断的战争最终会兼并出统一的政权来。这个再一次统一北方的政权就是鲜卑族拓跋氏的北魏。
南方的东晋灭亡了。桓玄取代司马氏政权虽然没有费太大的力气，但他篡权之后对北府兵主帅进行打击，进而解散北府兵之举，似乎并不明智，因为不久之后，桓玄政权就是被东山再起的北府兵将领所取代。
■前秦瓦解与北方的分裂
淝水之战败后，苻坚铩羽而归，百万大军也四处逃逸，回到洛阳时只剩下了十多万。军事上的惨败给前秦统治以毁灭性的打击，北方地区本是少数民族政权林立、民族间互相攻伐排挤的，前秦的统一主要是靠了强大的军事力量，因此没有了强大的军事力量做保障，北方的统一也难以维持了。前秦南下作战之前，曾强行从各民族中征兵，引起了各民族的不满，战争失败后，原来被秦征服的各族贵族，都乘机起来谋求恢复他们的政治势力，因此，不久之后各种民族政权又纷纷宣告独立，北方地区再次陷入了分裂割据。
与淝水之战以前的情况不同的是，北方地区初期的分裂主要是匈奴等少数民族首领利用少数民族反抗汉族民族歧视的政策和民族压迫的情绪而发展壮大，并最终建立了与汉族政权相对立的民族政权；但在淝水之战后，北方各少数民族都已经有了一定的发展，东晋汉族政权则偏安于南方，因此各少数民族之间的对立征战和政权更替成为北方局势发展的主要表现，因而北方局势发展也更显得繁复多变。
这一期间，每一个具有相对独立性的少数族都寻机建立起自己的政权，甚至同一民族不同支派或者历史渊源相近的民族也纷纷建立了自己的政权。比如鲜卑族慕容部就先后建立了后燕、西燕、南燕、北燕等政权，其中西燕与后燕还互相对抗，鲜卑族其他各部还建立有西秦、南凉等政权；同属匈奴后裔的沮渠蒙逊和赫连勃勃分别建立起北凉及夏政权。此外，还有羌族姚氏建立的后秦政权、氐人吕光建立的后凉政权以及汉人李氏建立西凉政权等。由于各民族政权之间的相互仇杀，时而分裂时而合并，权力更替非常频繁，因而这一时期民族迁徙与融合也达到了一个高峰。当然，严重的分裂对峙也造成了力量的分散，因而当另外一个强大的新兴力量—鲜卑拓跋部突然袭来的时候，所有这些政权便一个个倒在了拓跋部骑兵的马蹄下。
■北魏的建立及汉化
正当北方各少数民族互相攻伐，政权走马灯似的更替的时候，淝水之战前被前秦苻坚消灭的鲜卑拓跋部建立的代国，也在其建立者什翼犍之孙拓跋的努力下，于晋太元十一年（386）纠合旧部，在牛川（今内蒙锡拉木林河）召开部落大会，即代王位，复兴了代国。在此之后，拓跋一方面积极与其他部族和政权进行联盟，另一方面加强治理，以增强自己的实力，因而得以迅速强大起来。晋隆安二年（398）六月，根据汉族士人崔宏的意见，拓跋正式改国号为“魏”，并定都平城（今山西大同），相应地在礼仪制度上进行改革，正式建立了宫室、宗庙、社稷等国家建制。十二月，拓跋正式称帝，建立了北魏。
北魏建立之初，北方有柔然建立的强大的草原帝国，不时地侵犯，威胁其统治，南方刘裕建立的宋政权也开始越黄河而入关中，向北拓展疆域。
继拓跋、拓跋嗣之后，拓跋焘于始光元年（424）八月继位。拓跋焘在位期间曾对柔然发动过多次大规模进攻，最终解除了北魏继续南下的后顾之忧。与此同时，北魏政权也相继吞并了北方其他的少数民族政权，最终完成了北方地区的统一。
一直以来，北魏的统治中心在北方草原地区，尤其是为了对付柔然的侵扰，更注重于对阴山南北地区的控制，过着传统的游牧生活，经济来源主要依靠大规模狩猎和对其他游牧民族的劫掠。史称北魏前期的统治是“修其教不改其俗，齐其政不易其宜，纳其方贡以充仓廪，收其货物以实库藏”。这种情况无疑不利于北魏在北方汉族地区的长足发展。于是在军事征战的同时，拓跋焘也非常重视文治教化，他先后设置太学，供奉孔子等人，以儒家学说教育贵族子弟，在官制设置上也学习汉族政权作了一些调整。他还将年号改为“太平真君”，表示以复兴儒家教化的太平真君自居，这些措施无疑拉近了与汉民族的关系。
拓跋焘之后，北魏政权内部围绕政权继承人问题发生了一系列争斗，最终文明太后冯氏取得了胜利，以其4岁的儿子拓跋宏继位，而冯氏临朝听政，实权在握。冯氏崇尚中原儒家汉文化，北魏政治中心开始南移到了平城一带。冯太后还在北方实行了均田制等一系列汉化的措施，对朝廷礼仪和社会风俗等也作了一系列的改革。这些为此后孝文帝南迁洛阳之后大规模的汉化措施奠定了基础。太和十四年（490）冯太后去世，孝文帝得以亲政掌权，此后他沿着冯太后的汉化改革，先适应形势发展需要迁都洛阳，并在洛阳进行了大规模的汉化改革，使北魏政权从政治制度、经济基础上完全实现了汉化，十六国以来北方民族融合进程达到前所未有的高度。
■刘裕建宋
经过混乱割据之后，南方的政局也发生了许多变动。桓玄在依靠北府兵取代了司马氏政权之后，自己却对北府兵心存疑忌，因此先后惩除了一些北府兵将领，并解散了北府兵。桓玄此举激起了北府兵将帅的愤怒，因此刘牢之、刘裕等开始密谋反击桓玄。经过一番激烈的对抗，桓玄终于抵不过东山再起、实力尚存的北府兵，兵败逃回老巢江陵，从此在东晋政治活动中消失了。
刘裕作为北府兵将领，曾在镇压孙恩起义中表现英勇，屡建奇功，义熙元年（405）三月，他与其他北府兵将领一起将晋安帝迎回建康，使其再登帝位，而刘裕自己身兼侍中、车骑将军、都督中外诸军事、徐兖二州刺史等职；不久之后他又升任扬州刺史兼任尚书，东晋政权实质上落入了刘裕手中。刘裕大权在握之后，先后消灭了北方的南燕，击溃了孙恩起义的余部卢循的武装，基本上解除了足以对他形成威胁的外部力量。接着他又升任太尉、中书监，开始着手解决统治阵营内部对他有所制约的其他力量，并着力培植自己的党羽，谋划篡权自立。一切准备就绪之后，他于义熙十四年（418）十二月，授命心腹绞杀了晋安帝司马德宗，立安帝之弟司马德文，刘裕自己则进封宋王。元熙二年（420）六月，刘裕到达建康，以“禅让”的名义攫得了政权，立国号为宋，偏安一隅的东晋政权正式宣告寿终正寝。
刘裕出身低级士族，其建立政权之后为了巩固自己来之不易的政权，先后进行了一系列调整和改革。首先他重用北府兵，用来加强自己的军权，让那些出身寒门的将士通过军功逐级提高地位，从而既保证了军队对他的忠诚，又相对削弱了门阀世族的兵权；其次，他吸取前代门阀世族分裂割据、颠覆政权的教训，将重要地区交由皇子和亲族统领，在一定意义上防止了地方坐大成为隐患。总之，通过刘裕的调整和改革，原来士族门阀控制朝政、左右皇权的局面有所改变，虽然他们在政治生活中依然有很大影响，但已经逐渐衰落了。刘宋政权的这些举措及其政治格局，基本上奠定了此后南方各朝的政治发展模式。
■对峙中的政权更替
刘裕篡立南宋政权的时候，北方的拓跋氏还没有完成统一。因而，北方黄河流域处于北魏、北燕、夏、西秦及北凉等五个民族政权并立争雄的时期。因而刘裕政权继续加强了北伐，加紧扩张地盘，先后消灭了慕容鲜卑南燕及羌族后秦政权，东边以黄河为界，与正在汉化的北魏形成了对峙局面；在西边则消灭了蜀，占据着汉中，有效地遏止着关陇各族政权南下侵犯，南北对峙的局面至此完全定型了。
公元424年八月，刘裕之子刘义隆继位，改元元嘉，史称文帝。而此时的北方则正在进行着激烈的兼并和扩张战争。宋武帝永初三年（422）五月，刘裕死，当时北魏当政者拓跋嗣听说后借机率兵大举南下，攻伐一年有余，宋先后失掉了司、豫、兖等州，洛阳、虎牢、滑台等地皆为魏占领。此后不久，刘宋政权内部又经历了一场激烈的争权斗争，最终刘裕的第三子刘义隆被推上了皇位。刘义隆继续休养生息政策，对内继续进行调整，消除了内患，稳定了局势，使得南方出现了短暂的元嘉之治。而北魏政权则经过一系列的统一战争，到公元439年终于消灭北凉统一了北方。此间，北魏与宋之间还进行过一次南征北伐，战争虽然以宋的败退而结束，但北魏经过长时间的征战之后也开始国力不支，因此停止了南征。此后，南北之间二十多年没有发生过大规模的战争，但是双方依然有南征北伐的打算，公元450年，以拓跋焘的南征为开始，双方再次交锋，南宋再次失败，但北魏依然无法轻易地占领南方，因此，此战之后，南北双方很少再有战事。
公元450年的南北交锋之后，虽然外部的战争基本停息了，但南北双方统治集团都卷入了各自的权利演变更替中。战争使宋受到很大打击，北魏也遭受了巨大的损失。战后不久，北魏皇帝被臣下所害，而南宋刘义隆也遭太子篡权杀害。同前代相比，南朝政权中门阀世族的影响虽然越来越小了，但是宫廷斗争似乎越来越激烈，父子兄弟之间的猜忌和政权斗争几乎与南朝相始终。由于亲族争权，给权臣留下了可趁之机，南方在复杂的宫廷政变中经历了宋、齐、梁、陈四朝。和南方一样，此间的北方政局也并不安稳，先是围绕皇权继承问题展开了宫廷斗争，其后又因为政治腐败而发生了农民起义和流民暴动，朝廷政纲不张，统治混乱，因而也给权臣和地方政权以可乘之机，北魏政权曾出现了“一年三易”的乱局。高欢和宇文泰作为两大权臣，各自乘机掌控了一定的政治军事力量，打着魏的旗号，分别拥立拓跋氏不同的后裔建立独立政权，北魏因而分裂为了东魏和西魏。东西魏的分裂局面没有持续多久，他们各自的政权便被实权的掌控者高氏和宇文氏所取代，分别建立了北齐和北周，并且开始了更加激烈的对抗。
