晋安帝元兴元年（402年），当时占据长江中游的军阀桓玄以清君侧（诛杀奸臣司马道子父子）为名，起兵叛乱，部队顺长江而下，欲图直取建康。司马道子闻讯，再次派出刘牢之进行镇压。
但是这个时候，刘牢之自己却动起了歪脑筋。
要说刘牢之这个人统兵水平相当不错，勇武更是天下无双，但是政治智慧怕不是要成负数了。当初公元398年王恭起兵攻打司马道子的时候，刘牢之就临阵叛离王恭，投奔司马道子，直接导致了王恭的被杀。
这回，他又想叛主了，他想临阵倒戈，投奔桓玄，卖了司马道子。
刘牢之的担心听起来也很有道理，他觉得，如果自己打不过桓玄，那不如投降；如果自己打得过桓玄，锤爆桓玄以后肯定功高盖主，司马道子父子肯定容不下自己，为了不当白起韩信，还是不如投降。
简而言之，不如投降。
这个主意当然愚蠢透了，他已经叛王恭而投司马道子，这回再叛司马道子而投桓玄。桓玄也不是傻子，刘牢之如此反复无常，这还能信任他简直有鬼了，难道会不怕自己哪天又成了王恭、司马道子？
刘裕跟刘牢之的侄子何无忌两个人苦口婆心地劝刘牢之，但是这位刘牢之此时打定心思，一定要临阵倒戈，拦都拦不住。
于是，刘牢之投降了桓玄，这么一来最先去见司马炎的当然司马道子父子，然后下一个……就是刘牢之了。
桓玄也不想把这个反复横跳的家伙接着留下去了，于是乎立马夺了刘牢之兵权，让他去当一个征东将军、会稽太守，实际上把他剥离了北府军的指挥权。
刘牢之虽然政治智慧为负，但最起码不是傻子。或者说，连傻子都看得出，桓玄这手调度绝对不安好心。
这时，刘牢之又有了一个主意——再叛。结果他一个部下直接呛回去说：“你先背叛了王恭，前几天刚刚背叛了司马道子，现在又要背叛桓玄，一个人三次背叛主人，您还想怎么混下去？”然后就直接不理刘牢之，跑路了。
刘牢之这时才发现不妙，加上儿子刘敬宣去京口转移家室，到了约定的时间还没回来，刘牢之以为儿子被杀，于是选择了上吊自杀，结束了自己不断跳槽的一生。刘牢之死后，刘敬宣、高雅之、司马休之等人跑到南燕，投奔了慕容德。
在这种情况下，刘裕的处境显得非常尴尬了。事实上，他如果不想去陪刘牢之的话，目前似乎只有两条路好走——要么像那些北府军老前辈那样投靠慕容德，要么就暂时依附于桓玄。刘裕选择了第二条路对何无忌等人表示：“如果桓玄能够安安心心谨守臣节，我们就侍奉桓玄。如果他想搞事情，我们就干掉他。”
指望桓玄谨守臣节当然是不可能的，桓玄要是会谨守臣节他也不会带兵打建康了。在攻克建康的同时，桓玄就矫诏自封为侍中、都督中外诸军事、丞相、录尚书事、扬州牧，领徐州刺史，总百揆，又加假黄钺、羽葆鼓吹、班剑二十人。同年，“又加衮冕之服，绿綟绶，增班剑为六十人，剑履上殿，入朝不趋，赞奏不名”（《晋书·桓玄》）。
要知道桓玄他老爹桓温一生南征北战，西灭成汉，三伐中原，光复故都，晚年擅权独大，图谋篡位，结果到死也没能拿到这些地位。桓玄现在已经半个屁股坐在了建康城的龙椅上，离登上帝位只有一步之遥。
元兴二年（403年），桓玄又加扬州牧，晋封楚王，加九锡，正式走完了篡位前所有的流程。同年十二月，桓玄迫使晋安帝司马德宗禅位于自己，把另外半个屁股也挪到了龙椅上，把国号建为“楚”，追谥其父桓温为楚宣武帝。
与此同时，刘裕在元兴元年便奉桓玄之命东征卢循，次年正月，刘裕在东阳、永嘉接连大破卢循，加号彭城内史，也得到了桓玄的器重。
在桓玄篡位之前，桓玄的从兄桓谦找到了刘裕，问刘裕支不支持桓玄称帝。
你问持不支持，刘裕当然是不支持的。但问题是，就算刘裕说不支持，说得好像桓玄就不会称帝了似的。
搞不好，桓玄先把刘裕干掉，然后称帝。刘裕当然猜到了这点，于是心里再怎么不同意，嘴上还是表示桓玄称帝是众望所归云云，至于背地里，刘裕开始积极从事倒桓事业，准备光复晋朝。
桓玄篡位的时候，刘裕还没有跟桓玄撕破脸，于是乎违心地也来到京师，朝贺桓玄。桓玄见到刘裕，也觉得他是一代人杰。要说桓玄的妻子刘氏也不是一般人，对桓玄说刘裕肯定不会为人之下，迟早要反。但是这点，桓玄也已经看出来了，但是他还有更高的目标。
他想北定中原，荡平关陇，而他觉得这件事只有刘裕做得到，所以，他想等到中原平定以后再去找刘裕算账。
桓玄确实也有两把刷子，这一点他没有看错刘裕，刘裕在未来也确实完成了北定中原的伟业，只不过不是为桓玄做到的而已。
刘裕当然不想为桓玄北定中原，然后变成韩信第二。他在元兴三年二月乙卯（公元404年3月24日）召集何无忌、魏咏之、檀凭之、檀韶、檀道济、孟昶、孟怀玉、向靖、臧熹等二十七人以及一百多个自愿跟随的人在京口发动兵变，夺取京口，杀死桓修，率领征募的千余百姓向京师建康进军。
从此后作战记录来看，楚军兵力至少在三万人以上。
一千打三万，还是临时征调的义军打正规军，怎么看都不像能赢的样子。所以，桓楚众臣听到消息，内心毫无波澜，觉得干掉刘裕简直是易如反掌，只有皇帝桓玄一个人慌得一批，他觉得这刘裕、刘毅、何无忌三个人都绝对不可小觑，于是拒绝了大军进攻刘裕的提议，决定层层设防，采用被动防御的战术。桓玄派遣楚军名将吴甫之、皇甫敷各率军数千在江乘、罗落桥抵御刘裕。
三月戊午朔（公元404年3月27日），刘裕与吴甫之在江乘相遇，刘裕看到数倍于己的敌军，一点不慌，抄着一把长刀突了进去，竟然直接打崩了楚军……
刘裕一天之内，在江乘、罗落桥连续两次大破楚军，阵斩吴甫之、皇甫敷，率军直扑建康。
这回，桓楚上下终于意识到了问题的严重性，桓玄亮出了最后的底牌——他派遣心腹卞范之驻守战略要地覆舟山，堂兄弟桓谦出镇东陵口，两军合计二万人，抵御刘裕。
刘裕面对十几倍于己的敌军，集结兵力攻打覆舟山。他先命人虚张声势，作疑兵之计，打击楚军士气。随后，刘裕身先士卒，率军突击，并趁风放火，楚军竟然直接土崩瓦解。桓玄面对败局已定，决定放弃建康，抓着晋安帝，逃回长江中游的老巢。
三月庚申（公元404年3月29日），刘裕攻入石头城，重新建立东晋宗庙，这天距离刘裕在京口举兵不过六天。
六天，只有六天，刘裕只用了六天时间率领一千余人击败了三万多楚军，光复建康，重新设立东晋宗庙。
但问题是，这个问题并非光复首都就能搞定的，建康虽然光复了，但是皇帝还在桓玄手里，而且各地到处都是桓楚余部，就像《宋书·向靖传》中说：“京邑虽平，而群寇互起”，刘裕真正能够实际控制的领土相当有限。
于是，刘裕在光复建康后向西方和北方接连发起进攻。北部战线上，诸葛长民击溃了企图进军寿阳的桓歆，向靖、刘藩、孟龙符又在白茅击败了桓歆、桓石康、桓石绥的军队，一举拿下了重镇寿阳。
西线，晋军在刘毅、何无忌、刘道规的带领下，节节得胜，在桑落洲击败楚军名将郭铨，并在峥嵘洲追上了败逃的桓玄，又一次对楚军发起火攻，随后率军突击，大破楚军，桓玄也在败逃途中死于被砍死在船上。随后，桓谦、桓振率领桓氏余党占据江陵，顽抗晋军。晋军与楚军在夏口展开大战。楚军分守三处重地抵御晋军。刘毅、何无忌、刘道规分兵进攻防守较为薄弱的两处，一举攻克两处阵地，迫使孤立无援的楚军名将冯该放弃夏口撤军，随后刘毅等人一鼓作气，攻破江陵。
此后，桓氏余部仍然在坚持反晋斗争，其彻底覆灭要是好几年后的事情了。不过，此时的桓氏政权已经再也无力掀起波澜，此处也就不再赘述了。
