别人的下属，要对他早作安排。”桓玄说：“我正在荡平中原，非刘裕不可，等关、陇地区平定，然后再作讨论。”

桓修不久回到京口，武帝借口说枪伤恶化，不能随同，便与何无忌一同乘船返回，商讨复兴的方案，与弟弟刘道轨、沛国的刘毅、平昌的孟昶、任城的魏咏之、高平的檀凭之、琅笽的诸葛长人、太原的王元德、陇西的辛扈兴、东莞的童厚之，共同谋划大计。当时桓修的弟弟桓弘担任青州刺史，镇守广陵，刘道轨担任桓弘的中兵参军，孟昶担任青州主簿，于是武帝就让刘毅到孟昶那里谋划共同袭击桓弘。诸葛长人担任豫州刺史刁逵的左军府参军，预谋占据历阳来相策应，王元德、童厚之预谋在建邺进攻桓玄，时间一到一齐行动。

元兴三年(404)二月二十七日，武帝假托游猎，和何无忌，魏咏之，檀凭之，刘毅的堂弟刘藩，檀凭之的侄子檀韶、檀祗、檀隆、檀道济，孟昶的族弟孟怀玉等人，聚集了义徒共二十七人，愿意随从的一百多人。二十八日，等城门打开，何无忌等义徒身穿传达诏书人的服装，口称诏书走在前面，义徒们骑马驰入城内齐声大叫，官吏士兵都被惊散，随即将桓修斩首示众。武帝哭得十分伤心，进行了丰厚的埋葬和抚恤。孟昶劝桓弘在这一天外出打猎，天还没有明，打开城门放出了打猎的人，孟昶、刘道轨、刘毅等率壮士五六十人，因城门打开而直接进入。桓弘正在喝粥，就被斩首，于是收集他的兵众渡江。

义军刚刚攻下京城，桓修的司马刁弘率领文武官员前来攻打，武帝登上城头对他们说：“郭江州已经在寻阳侍奉御车拨乱反正，我们全都奉了密诏诛除逆党，现在逆贼桓玄的头应当砍掉挂在大航的高杆上面。诸君难道不都是大晋的臣子吗？”桓弘等人相信了他们，便退了回去。刘毅到了以后，武帝命令他杀死刁弘等人。

刘毅的哥哥刘迈原先住在建邺，事情还没发生的前几天，武帝派遣同谋周安穆报告了他，让他来作内应。刘迈非常恐惧，周安穆害怕事情暴露，驰马返回。当时桓玄让刘迈担任竟陵太守，刘迈便乘船而下，打算到郡上任。这天夜里，桓玄给刘迈寄信说：“北府的人情况怎么样？您最近见刘裕说了些什么？”刘迈以为桓玄已经知道了他们的计谋，早晨起来就把情况告诉了他。桓玄很吃惊，封刘迈为重安侯，又因为他没有把周安穆抓住，所以把他杀了，又杀了王元德、辛扈兴、童厚之等。于是派遣顿丘太守吴甫之、右卫将军皇甫敷抵御北面的义军。

在此以前，武帝曾到游击将军何澹之那里去，身边的人见武帝光耀满室，便把这种现象告诉了何澹之，何澹之又说给了桓玄，桓玄并不介意，到了现在，听说义兵起事了，非常恐惧。有人说：“刘裕他们非常虚弱，陛下何必过深地忧虑？”桓玄说：“刘裕足可以成为一世的雄杰，刘毅家里没有一石粮食的储蓄，而赌博时掷骰子一押百万，何无忌，是刘牢之的外甥，酷似他的舅父，共同举办大事，怎么就说不能成功？”当时众人推举武帝为盟主，以孟昶为长史，总管后方事务，檀凭之为司马，愿意随从的老百姓有一千多人。军队驻扎在竹里，向京城发出了檄文。

三月初一，在江乘遇到了吴甫之，武帝亲自拿着大刀，大声呼叫，随即把吴甫之杀死。进军到罗落桥，遇到了皇甫敷，檀凭之战败被杀，众人纷纷后退，武帝前进战斗更加猛烈，而且又杀了皇甫敷的头。起初，武帝谋划大计，有善于相面的人给武帝和何无忌等人相面，说他们近期一定会大贵，只是说檀凭之没有贵相。到现在檀凭之战死，武帝知道这件事必定胜利。

桓玄听说皇甫敷等人已死，就派桓谦屯驻东陵口，卞范之屯驻覆舟山西面。三月初二，义军进驻覆舟山东部，布置了疑兵，用涂油的披肩盖在树上，布满山谷。武帝首先驰向敌军，将士们全都进行殊死的战斗，无不一以当百，呼声震天动地。又借着风力放火，浓烟与火焰冲天，桓谦大败。桓玄开始虽然派出了军队，但是逃走的心意已经决定，另外派遣了领军殷仲文在石头城准备好船只，听说桓谦失败，便乘着轻快的小船向南逃跑了。

三月初三，武帝镇守石头城，任命了留守台阁的各级官员，在宣阳门外烧毁了供奉桓温的牌位，在太庙中建造了晋朝的新神主。派遣各路将官追击桓玄，命令尚书王嘏率领百官迎接皇帝的车驾。司徒王谧与众人商议推举武帝兼职掌管扬州，武帝坚决推辞，便以王谧担任录尚书事、兼任扬州刺史，武帝担任镇军将军、都督八州诸军事、徐州刺史、领军将军。

起初，晋陵人韦叟擅长相面术，桓修让他相一相武帝是不是能当上州官，韦叟说：“应当做边远州的刺史。”回头又私下对武帝说：“您的面相贵不可言。”武帝笑着说：“如果说中了，一定任用您为司马。”到了现在，韦叟去见武帝说：“周成王不忘桐叶之信，您也应该不忘司马之言。现在我不敢希望做镇军司马，只想能够兼任一个军佐。”于是就任用了他。

当时诸葛长人没有如期赶到，被刁逵抓住押送过去，还没到达，桓玄就失败了。桓玄经过寻阳，江州刺史郭昶之为他准备了车子和仪仗器物。起初，荆州刺史王绥因为是江东的显贵世族，又是桓氏的外甥，平时对武帝十分欺侮，到了现在，与他的父亲尚书左仆射王愉都抱有怀疑心理，一齐被杀死。

四月初一，尊奉武陵王司马遵为大将军，按照圣旨，实行大赦，只有桓玄祖父的后辈不予赦免。桓玄篡位，是由王谧辅佐的，是他亲手解下晋安帝的玉玺。等到义旗树立，众人都说王谧应该杀掉，只有武帝平时对王谧很感激，因而保护他。刘毅曾经趁朝会的机会，问王谧玉玺在什么地方，王谧更加恐惧。等到王愉父子被杀，王谧的堂弟对王谧说：“王驹无罪而被杀死，这是铲除胜过自己的人，兄长既是桓氏一党的人，希求免祸能够做到吗？”驹，是王愉的小字。王谧恐惧，逃奔曲阿。武帝告诉大将军把他迎接回来，恢复了他的职位。

桓玄挟持天子逃往江陵，又渡江东下，与刘毅、何无忌、刘道轨等在峥嵘洲相遇，众军把他打得大败。桓玄的党徒殷仲文拥戴两位皇后回到建邺。桓玄重又挟持天子到了江陵，并从那里逃往南郡，太守王腾之、荆州别驾王康产拥戴天子进入南郡府。

起初，益州刺史毛璩派遣侄孙毛佑之和参军费恬为弟弟送丧离开州城，毛璩弟弟的儿子毛修之当时做桓玄的屯骑校尉，引诱桓玄进入蜀地，到了枚回洲，费恬和毛佑之迎面用箭射他，益州督护冯迁杀死了桓玄，把人头送往建邺。桓玄的侄子桓振逃到华容的涌中，招集逆党，袭击江陵城，王腾之、王康产都被杀死。桓谦先前曾藏在沮川，也聚集人马与桓振呼应。他们为桓玄举行哀悼，设立了丧庭。桓谦率领众官员奉献玉玺给晋安帝。刘毅、何无忌进军与桓振交战，在灵溪战败。

十月，武帝兼任青州刺史，可以带领卫士一百人进入宫殿。