张法顺对元显说：“桓玄靠着家世资本，向来有野心，吞并了殷仲堪、杨佺期后，独占了荆楚地区，您能控制的只有三吴之地。孙恩作乱，东部地区一片狼藉，官府百姓都穷得叮当响，桓玄肯定会趁这个机会作乱，我真替您担心。”元显问：“那怎么办？”法顺说：“桓玄刚得到荆州，人心还没归附，正忙着安抚，没空想别的。要是趁这时候让刘牢之当先锋，您率领大军跟上，就能拿下桓玄。”元显觉得对。正好武昌太守庾楷因为桓玄和朝廷结怨，怕事情不成，自己受牵连，秘密派人联系元显，说：“桓玄特别不得人心，大家都不愿听他的，要是朝廷出兵，我愿意当内应。”元显特别高兴，派张法顺到京口，和刘牢之商量；刘牢之觉得这事难办。法顺回来对元显说：“看刘牢之的神色，肯定会背叛我们，不如把他召来杀了；不然，肯定会坏大事。”元显不听。于是大规模整训水军，征兵造舰，准备讨伐桓玄。
元兴元年（壬寅年，公元402年）
春天正月庚午日，朝廷下诏历数桓玄的罪状，任命尚书令元显为骠骑大将军、征讨大都督、都督十八州诸军事，加授黄钺，又任命镇北将军刘牢之为前锋都督，前将军谯王尚之为后续部队，同时大赦天下，改年号，朝廷内外戒严；加授会稽王司马道子为太傅。
元显想把桓氏家族全杀了。中护军桓修是骠骑长史王诞的外甥，王诞很受元显宠信，就说桓修等人和桓玄志向不同，元显才没动手。王诞是王导的曾孙。
张法顺对元显说：“桓谦兄弟经常给上游的桓玄当耳目，应该杀了他们，杜绝奸谋。而且事情成不成，全看前锋，可刘牢之反复无常，万一变卦，灾祸马上就来。可以让刘牢之杀了桓谦兄弟，表明他没有二心；要是他不听命，就先收拾他。”元显说：“现在除了刘牢之，没人能对付桓玄；而且刚开始就杀大将，人心会不安。”反复不同意。又因为桓氏世代被荆州人依附，桓冲尤其有遗恩，而桓谦是桓冲的儿子，就把桓谦从骠骑司马提拔为都督荆、益、宁、梁四州诸军事、荆州刺史，想靠这拉拢西部人心。
丁丑日，后燕的慕容拔进攻北魏的令支据点，攻了下来，北魏守将宿沓干逃走，后燕军队活捉了北魏的辽西太守那颉。后燕任命慕容拔为幽州刺史，镇守令支，又任命中坚将军、辽西人阳豪担任辽西郡太守。丁亥日，后燕任命章武公慕容渊为尚书令，博陵公慕容虔为尚书左仆射，尚书王腾为右仆射。
戊子日，北魏的材官将军和突攻打黜弗、素古延等部落，把他们打败了。当初，北魏国主拓跋珪派北部大人贺狄干献上一千匹马，请求和后秦联姻，后秦王姚兴听说拓跋珪已经立了慕容氏为皇后，就扣留了贺狄干，拒绝了联姻；没弈干、黜弗、素古延都是后秦的属国，而北魏去攻打他们，因此后秦和北魏有了矛盾。庚寅日，拓跋珪大规模检阅军队和战马，命令并州各郡在平阳的乾壁囤积粮食，防备后秦。
柔然的社仑正和后秦交好，派将领去救援黜弗、素古延；辛卯日，和突迎击，把柔然军队打得大败，社仑率领他的部落远远逃到漠北，夺取了高车的地盘定居下来。斛律部落的首领倍侯利进攻社仑，被打得大败，倍侯利投奔了北魏。社仑于是向西北进攻匈奴的残余部落日拔也鸡，把他们打得大败，接着吞并了各个部落，兵力强盛，在北方称雄。他的地盘西边到焉耆，东边连接朝鲜，南边靠近大漠，周围的小国都被他控制。社仑自称为豆代可汗。他开始制定规矩，以一千人组成一军，每军有将军；一百人组成一幢，每幢有帅。作战时冲锋在前的人，会赏赐战利品；胆小懦弱的人，就用石头砸头处死。
秃发傉檀攻下了显美，抓住了孟祎，责备他不早点投降。孟祎说：“我受吕氏的厚恩，拿着符节镇守一方；如果您的大军刚到，我就看着军旗投降，恐怕会被您治罪啊。”秃发傉檀放了他，还以礼相待，迁徙了两千多户人家回去，任命孟祎为左司马。孟祎推辞说：“吕氏快要灭亡了，您的圣朝必定会夺取河右，不管聪明还是愚笨的人都知道这一点。但我守城没能守住，又要担任这么高的职位，心里实在不安。如果能蒙受您的恩惠，让我到姑臧受死，就算死了也不朽。”秃发傉檀认为他有义气，放他回去了。
东晋东部地区遭受孙恩之乱，接着又闹饥荒，漕运跟不上。桓玄封锁了长江水路，商人旅客都断绝了，官府和百姓都物资匮乏，只能用粗粮、橡果给士兵当粮食。桓玄认为朝廷正有很多烦心事，肯定没空讨伐自己，可以积蓄力量，等待机会。等到朝廷大军快要出发时，他的堂兄、太傅长史桓石生秘密写信告诉了他。桓玄大吃一惊，想集结兵力守住江陵。长史卞范之说：“您的威望震动远近，司马元显还是个毛孩子，刘牢之很不得人心，如果您出兵逼近京城附近，向他们说明利害，他们土崩瓦解的局面很快就会到来，哪有把敌人放进境内，让自己陷入困境的道理呢！”桓玄听从了他的建议