众人推举刘裕为盟主，总管徐州事务，任命孟昶为长史，镇守京口，檀凭之为司马。彭城人中前来应募的人，刘裕全部交给郡主簿刘钟统领。丁巳日（二月二十九日），刘裕率领徐、兖二州的部众一千七百人，在竹里（今江苏南京江宁北）驻军，向远近地区发布檄文，宣称 “益州刺史毛璩已经平定荆楚，江州刺史郭昶之在寻阳拥戴陛下复位，镇北参军王元德等人已率领部众占据石头城，扬武将军诸葛长尼已占据历阳”。
桓玄迁回皇宫，召集侍从官员都住进宫中官署；加授扬州刺史、新安王桓谦为征讨都督，任命殷仲文代替桓修为徐、兖二州刺史。桓谦等人请求立即派兵攻打刘裕，桓玄说：“刘裕的军队锐气很盛，抱着必死的决心作战，如果我们有差错，他们就会士气大振，而我的大事就完了；不如把大军驻扎在覆舟山（今江苏南京玄武区）等待他们。刘裕的军队空跑二百里，一无所得，锐气已经受挫，突然见到我们的大军，一定会惊慌失措；我们按兵不动，坚守阵地，不与他们交战，他们求战不得，自然会溃散，这是上策。” 桓谦等人坚持请求进攻，桓玄才派顿丘太守吴甫之、右卫将军皇甫敷相继北上迎击。桓玄内心特别担忧恐惧，有人说：“刘裕等人是乌合之众，兵力薄弱，肯定成不了事，陛下何必如此深忧！” 桓玄说：“刘裕足以成为一代枭雄，刘毅家里连一石粮食的储备都没有，却敢在赌博时一掷百万，何无忌酷似他的舅舅刘牢之；他们共同起兵，怎么能说成不了事！”
南凉王秃发傉檀畏惧后秦的强大，于是去掉年号，撤销尚书丞、尚书郎等官职，派参军关尚出使后秦。后秦王姚兴说：“您（秃发傉檀曾任车骑将军）向我称臣纳贡，却擅自兴兵修筑大城，这难道是臣子该有的做法吗？” 关尚说：“王公修筑险要工事来守卫自己的国家，是先王定下的制度。车骑将军地处偏远的藩镇，靠近强大的敌人，修筑城池是为国家加固边防，没想到陛下竟然对此产生疑虑。” 姚兴认为他说得对。秃发傉檀请求兼任凉州刺史，姚兴没有答应。
当初，袁真杀了朱宪，朱宪的弟弟朱绰逃奔桓温。桓温攻克寿阳后，朱绰挖开袁真的坟墓，鞭笞袁真的尸体。桓温大怒，想杀了朱绰，桓冲求情，朱绰才得以幸免。朱绰侍奉桓冲如同父亲，桓冲去世后，朱绰吐血而亡。刘裕攻克京口后，任命朱绰的儿子朱龄石为建武参军。三月，戊午朔日（初一），刘裕的军队和吴甫之在江乘（今江苏南京栖霞东）相遇。即将交战时，朱龄石对刘裕说：“我家世代受桓氏厚恩，不想用兵器与他们对抗，请求让我留在军队后方。” 刘裕认为他有义气，答应了他的请求。吴甫之是桓玄手下的猛将，他的士兵非常精锐。刘裕手持长刀，大声呐喊着冲锋，吴甫之的士兵纷纷溃散，刘裕当即斩杀吴甫之，进军到罗落桥（今江苏南京江宁东北）。皇甫敷率领几千人迎战，宁远将军檀凭之战败身亡。刘裕作战更加勇猛，皇甫敷把他包围了好几层，刘裕靠着大树顽强抵抗。皇甫敷说：“你想怎么死！” 拔出长戟就要刺向刘裕，刘裕瞪大眼睛呵斥他，皇甫敷被吓得后退。刘裕的部众很快赶到，用箭射中皇甫敷的额头，皇甫敷倒地，刘裕拔刀上前。皇甫敷说：“您有天命，我的子孙就托付给您了。” 刘裕斩杀皇甫敷，之后厚待他的儿子。刘裕把檀凭之统领的士兵交给参军檀祗。檀祗，是檀凭之的侄子。
桓玄听说吴甫之、皇甫敷两位将领战死，非常恐惧，召集各种会道术的人推算吉凶，还施行镇邪法术。他问大臣们：“我会失败吗？” 吏部郎曹靖之回答说：“百姓怨恨，神灵愤怒，臣实在为陛下担忧。” 桓玄说：“百姓或许会怨恨，神灵为什么会愤怒？” 曹靖之说：“晋朝的宗庙神主漂泊在长江边，您大楚的祭祀，连祖先都顾及不到，这就是神灵愤怒的原因。” 桓玄说：“你为什么不早点劝谏？” 曹靖之说：“宫中的大臣都认为现在是尧、舜那样的盛世，臣怎么敢说这话！” 桓玄沉默不语。他派桓谦和游击将军何澹之驻守东陵（今江苏南京玄武区东），派侍中、后将军卞范之驻守覆舟山西侧，兵力合计两万人。
己未日（三月初二），刘裕的军队吃完饭后，把剩下的粮食全部丢弃，进军到覆舟山东侧，派老弱士兵登上山头，挥舞旗帜作为疑兵，分几路同时前进，旗帜布满山谷。桓玄的侦察兵回来报告说：“刘裕的军队到处都是，不知道有多少人。” 桓玄更加担忧恐惧，派武卫将军庾赜之率领精锐士兵去支援各路军队。桓谦等人的士兵大多是北府军旧部，一向敬畏刘裕，没有斗志。刘裕和刘毅等人把军队分成几队，突进桓谦的阵地；刘裕身先士卒，将士们都拼死作战，无不以一当百，喊杀声震动天地。当时东北风刮得很猛，刘裕趁机放火焚烧敌军阵地，浓烟火焰冲天，鼓声呐喊声震动京城，桓谦等各路军队大败溃