正当拓跋氏在北方不断扩张领土的时候，南方东晋大将刘裕也在逐渐扩大自己的势力。
刘裕本是汉高祖刘邦的后代。但刘家到刘裕父亲时，家族已经很没落了。迫不得已，刘裕很早就挑起了养家的重担，农忙时种地，农闲时不是上山砍柴，就是下河捕鱼。也正是因为这样，刘裕从小就尝尽了生活的艰辛，磨练了他坚韧、强悍的个性。
后来，刘裕参了军。他英勇善战，善用计谋，立下了多次战功。不久，桓温的儿子桓玄发动政变，强迫当时的晋安帝退位，他自己做皇帝。刘裕听说后，联络了许多北府兵中下级军官，向桓玄发动进攻，把桓玄打了个大败。刘裕还把晋安帝接回建康，让他重登皇帝宝座。这样一来，刘裕一下成了东晋王朝的大功臣。晋安帝为了感谢他，把东晋的军政大权王羲之·兰亭序都交给了他。
随着权力的增长，刘裕逐渐产生了政治野心，也萌发了想做皇帝的念头。但他清楚自己夺权的时机还不成熟，就决定出兵讨伐北方的南燕和后秦，借以提高自己的威望。
南燕是鲜卑人建立的政权，后秦是羌族人建立的国家。刘裕北上以后，很快就攻下了南燕。公元417年，刘裕又率兵攻入长安，灭掉了后秦。晋安帝知道后，下诏任命刘裕为相国，并让他享有仅次于皇帝一人的礼遇，希望他继续南征北战，为东晋统一全国。可是，刘裕的最终目的是想自己做皇帝，因此对朝廷的封赏并不满足。他还担心自己在外打仗，离开朝廷太久，大权会落到别人手里。于是，刘裕就带着军队回到了建康。
公元402年，晋安帝去世。刘裕见夺取帝位的时机成熟，再也控制不住自己的野心，就派人逼迫刚刚即位的晋恭帝退位，自己做了皇帝，定国号为宋，他就是宋武帝。东晋在南方104年的统治，就这样结束了。
公元439年，北方的北魏灭掉了十六国中最后一个国家北凉，统一了北方。我国历史上出现了南北两个政权对峙的局面。南方在宋之后又出现了齐、梁、陈三个朝代；北朝的北魏后来分裂为东魏、西魏；之后，东魏、西魏又分别被北齐、北周代替。历史上把这段时期合起来称为南北朝。
