桓玄的檄文传到京师，司马元显见后倒也大吃一惊，没想到桓玄会主动进攻，心中万分忐忑。但是这把火是他点起，也只能硬着头皮出征迎战。东晋皇帝司马德宗亲自设宴为其饯行。司马元显率军登船驶向北岸，船到江边，他却迟迟不敢下船，他担心自己的部属不是江陵桓玄兵的对手。
与司马元显的胆怯相同，桓玄也是进展缓慢。他也在担心，如果一旦战败该如何收拾残局。直到过了挦阳，还没见到一个官军的影子，胆子始觉壮了许多。待到姑熟，竞然同司马元显的后军遭遇。双方仓促交战，桓玄的先锋把司马尚之在阵前斩落马下，桓玄首战告捷。
司马元显的官军，其主力还是刘牢之的北府兵。但刘牢之对司马元显始终都是三心二意。特别是安帝为司马元显饯行的御宴上，刘牢之被安排在较为靠后的位置，刘牢之当时就气满胸膛。因而在桓玄同司马尚之大战时，刘牢之拒不出战救援。
桓玄对于刘牢之的态度心中犹如明镜一般，他感到有机可乘。因为刘牢之的舅父何穆，在他帐中为幕宾，遂派何穆为说客，前往刘牢之大营劝降。何穆见到外甥，鼓动三寸不烂之舌：“牢之，自古以来，戴震主之威，挟不赏之功，而能自全之人又有谁呢？越国的文种，秦国的白起，汉朝的韩信，无不是在功成后被杀。你当下的处境是，战胜则倾宗，战败则覆族，又何不翻然悔悟，长保富贵呢！”
“舅父所言极是，牢之愿听教讳。”
“桓玄大将军引大军进发，你只要按兵不动，桓大将军便足以击溃司马元显。待桓大将军取得朝政大权，定给你加官晋爵。”
“甥儿就照舅父指教，与桓大将军结盟，共图富贵。”
何穆离开后，刘牢之的部将刘裕、何无忌全都反对刘牢之的做法。刘牢之的儿子刘敬宣也劝谏说：“桓玄犹如东汉之董卓，朝之大奸，万万不可投靠。”
刘牢之勃然大怒：“你们懂得什么，桓玄是何种人我岂不知。我现在是用桓玄对付司马元显，待日后他二人两败俱伤，我再吃掉他们，这晋朝的江山，不就顺利地归我所有。”
次日，桓玄派人来送信，邀请刘牢之过营赴宴。刘牢之担心一去不返，再三斟酌后，派儿子刘敬宣替他前往。桓玄本打算借宴会之机除掉刘牢之，见是刘静宣到来，只好改变主意，依然大摆宴席，顺势把刘敬宣留在营内，大军全速前进向建康进发。当司马元显得知桓玄大军已抵新亭，而刘牢之根本未予抵抗时，明白大势已去，弃军队于不顾，独自乘船逃回建康。主帅一走，大军随即溃散。桓玄引军兵不血刃进人京师，司马元显被活捉，桓玄下令将司马元显及其亲信一党尽数斩首，俘获司马道子流放出城，桓玄暗中指使押解的公人，于途中把司马道子毒亡。
政敌除去，桓玄自封太尉、都督中外诸军事，如今，司马德宗这个傀儡被桓玄完全掌控。这时，桓玄想到了刘牢之是他的心腹之患，首先得解除他的兵权。桓玄颁旨，命刘牢之改做会稽内史。
刘牢之明白，这削去兵权只是第一步，第二步就是要他的性命。刘敬宣侥幸从桓玄处逃回，他力主父亲出奇兵袭击桓玄。刘牢之集将佐议事，提出攻其不备偷袭桓玄。
参军刘袭言道：“人生在世最忌再三反叛，将军一反王恭，二叛司马元显，如今又要叛桓玄，三叛其主，难有好的下场。请恕在下不能相伴，我要另寻生路，望将军好自为之。”言毕，刘袭扬长而去。士卒们见参军出走，登时散去大半，军心为之动摇。
当时，刘裕统兵在京口，刘毅在广陵，何无忌在新亭，刘牢之身边几无可战之兵。他明白难逃桓玄的毒手，便自缢而死。刘敬宣见状，化装出城，逃往北魏。
桓玄所有的军政敌手俱已除去，装模作样地罢黜奸佞，擢拔人才。没过多久，就骄奢淫逸，政令无常。又值三吴******，户数都已减半，有的郡县甚至没有人烟。粮食奇缺，富户人家往往是身着绫罗绸缎，怀抱黄金美玉饿死。就连皇帝也常常吃不饱饭，挨冻受饿是经常的。
桓玄的野心极度膨胀，加紧了篡夺皇位的行动。他派亲信幕僚卞范之知会安帝，如不主动禅位，就有生命危险。元兴二年十一月，卞范之扶着不会写字的安帝的手，写下了禅位诏书。在大殿上，王司徒捧出玉玺，交到桓玄手中，安帝宣布禅位。桓玄正式登基，国号曰楚。把安帝安置到浔阳，封为固安王。当上了皇帝，桓玄自然要作威作福。大小官吏尽皆由他任免，就连九品官都得由他钦定。桓玄还酷爱游猎，一日三猎都是寻常事。他还大兴土木，营造宫殿御苑。对工匠极其苛刻，稍有疏漏，即判死罪。整个是朝野动荡，民不聊生。
元兴三年〈404〉四月，刘裕召集刘毅、何无忌在京口相聚，正式提出推翻桓玄，共襄义举。随即三人在三地同时宣布起义，三路兵马，兵锋直指建康。刘裕义旗一举，全国纷纷响应，很快集聚到几十万人。桓玄心虚不敢正面迎战，急忙挟持着司马德宗，乘船沿长江西逃到江陵。刘裕率军紧追不舍，与桓玄军队在桑落州激战，桓玄大败亏输。桓玄继续引兵西逃，到达峥嵘州布防。他打算在此扭转局面，以众击寡，打败刘军。
当时，刘裕人马由于紧追疾进，兵力不过一万人。而楚军多达两万，是刘军的两倍。刘裕部下都未免怯战。
刘毅见此情况谏言道：“大将军，敌众我寡，如果畏惧不前，敌人必有所乘。桓玄徒有雄豪之名，其实他胆小如鼠。前番桑落州大战，也是敌众我寡，不也把楚军打得大败。楚军新败，军心不稳，我军正可乘势前进，两军相逢勇者胜，愿大将军勇猛进攻。”
“将军之言正合我意，趁敌人立足未稳，向楚军发起猛攻。”刘裕率先冲向敌阵。主帅带头，将士英勇。楚军方要埋锅造饭，怎禁得刘军冲杀，登时大乱。刘毅更是采用火攻，楚军落荒而逃，连夜挟带安帝逃进江陵。桓玄本想休整一夜后，再带着安帝逃向汉中。不料刘裕根本不给他喘息之机，连夜发动了攻城战斗。楚军毫无斗志，转眼城破，桓玄此时也顾不得安帝了，把他丟在江陵，自己带着百余名亲信，乘马要抢出城门。怎料到楚军兵将争相逃命，互不相让。一员牙将嫌桓玄碍事，几乎用刀把他砍死。幸得随从保护，他们才得以出城。到达江边上船时，桓玄身边仅剩卞范之等十数人。
桓玄乘船沿江行驶，到达枚回州时，偏偏遇上毛裕之的几百人的刘军部队。见是桓玄乘船，毛裕之下令放箭，一时间箭如雨下。亲信丁仙期、万盖齐用身体掩护，二人均身中数十箭而死。桓玄本身也中箭受伤，刘军益州都督冯迁抽出佩刀上前，桓玄拔下头上珍贵的玉导递过去：“将军，只求留朕一命。”
冯迁回道：“只要尔头，不要财物。”手起刀落，桓玄人头落在船上。
刘裕命将桓玄首级悬于建康城门示众。
至此，桓玄建立的楚国，仅存在一年四个月，便覆灭了。
义熙元年三月，刘裕护送司马德宗回到建康，这个被迫禅位一年多的傀儡皇帝又恢复了皇帝位。他当即降旨刘裕，都督中外诸军事。刘裕掌握了东晋的军政大权。
