在此之前，右武候大将军李子雄因事获罪被除名，朝廷让他随军效力，当时他跟从来护儿在东莱。隋炀帝猜忌他，下诏将李子雄押送到自己的行营。李子雄杀死使者，逃奔杨玄感。卫文升率领两万步兵骑兵渡过瀍水，与杨玄感交战，杨玄感多次击败他。杨玄感每次作战都身先士卒，所到之处无人能挡，又善于安抚士兵，士兵们都愿意为他拼死作战，因此每次交战大多获胜，部众也越来越多，达到十万人。卫文升兵力悬殊，死伤殆尽，只好退守邙山南麓，与杨玄感决战，一天内交战十多次。恰逢杨玄挺被流箭射中身亡，杨玄感的军队才逐渐后退。
秋季七月癸未日，余杭百姓刘元进起兵响应杨玄感。刘元进手长一尺多，手臂下垂能过膝盖，自认为相貌非凡，暗中有谋反的打算。当时隋炀帝再次从三吴地区征调士兵讨伐高丽，三吴的士兵都互相说：“往年天下全盛时，我们的父兄去征讨高丽，还有大半人没能回来；如今国家已经疲惫，还要去打仗，我们这些人肯定要全军覆没了！”因此很多人逃亡。郡县官府追捕得很紧急，逃亡的人听说刘元进起兵，纷纷前来投奔，一个月内，部众就达到数万人。
起初，杨玄感抵达东都时，自认为天下人都会响应，很快就能成功。他得到韦福嗣后，把对方当作心腹，不再专任李密。韦福嗣每次谋划计策都犹豫不决、模棱两可。李密看穿了他的心思，对杨玄感说：“韦福嗣本来就不是我们的同盟，其实心怀观望；您刚开始举大事，身边却有奸人，要是听他的意见，肯定会被耽误，请杀了他！”杨玄感说：“何至于到这种地步！”李密退下后，对亲信说：“楚公（杨玄感）想造反却不想成功，我们这些人现在要成俘虏了！”
李子雄劝杨玄感尽快称帝，杨玄感拿这事问李密。李密说：“从前陈胜想称王，张耳劝谏却被疏远；魏武帝（曹操）想谋求九锡之礼，荀彧反对却被诛杀。现在我想说真话，又怕重蹈这两人的覆辙；要是阿谀顺从，又不是我的本意。为什么呢？自从起兵以来，虽然多次获胜，但各郡县并没有响应我们的；东都的防守还很坚固，天下的援兵也越来越多，您应当奋勇作战，早日平定关中，现在却急于称帝，这不是向天下人显示自己心胸狭隘吗！”杨玄感笑着放弃了称帝的想法。
屈突通率军驻扎在河阳，宇文述随后也赶到。杨玄感向李子雄询问计策，李子雄说：“屈突通熟悉军事，要是他渡过黄河，胜负就难料了，不如分兵阻拦他。屈突通过不了河，樊子盖、卫文升就会失去援军。”杨玄感同意这个计策，准备派兵阻拦屈突通；但樊子盖知道了他的谋划，多次进攻他的军营，让他无法分兵。屈突通趁机渡过黄河，在破陵驻军。杨玄感分兵两路，西路抵抗卫文升，东路抵御屈突通。樊子盖又出兵大战，杨玄感的军队多次战败。杨玄感和部下商议对策，李子雄说：“东都的援军越来越多，我们军队多次战败，不能久留，不如直接进入关中，打开永丰仓救济贫苦百姓，三辅地区就能轻易平定；占据府库，再向东争夺天下，这才是霸王之业。”李密说：“弘化留守元弘嗣在陇右掌握强兵，我们可以谎称他谋反，派使者迎接您入关，这样能欺骗众人。”
恰逢华阴杨家的人请求担任向导，壬辰日，杨玄感解除对东都的包围，率军向西奔赴潼关，对外宣称：“我已经攻破东都，现在去夺取关西！”宇文述等各路军队随后追击。杨玄感抵达弘农宫时，当地父老拦住他劝说道：“弘农宫城空虚，又有很多粮食，容易攻克。”杨玄感认为有道理。弘农太守蔡王杨智积对下属说：“杨玄感听说大军将至，想向西图谋关中，要是他的计划成功，就很难对付了；我们应当用计策牵制他，让他无法前进，不出十天，就能活捉他。”等到杨玄感的军队抵达城下，杨智积登上城墙辱骂他；杨玄感发怒，留下军队攻城。李密劝谏说：“您现在谎称率军西进，军事行动贵在神速，何况追兵很快就到，怎么能停留！要是前进不能占据潼关，后退又没有据点，士兵一旦溃散，我们怎么自保！”杨玄感不听，坚持攻城，还放火烧城门；杨智积在城内也加大火势，让杨玄感的士兵无法进城。攻城三天没能攻克，杨玄感才率军西进。抵达閺乡时，宇文述、卫文升、来护儿、屈突通等各路军队在皇天原追上了他。杨玄感登上盘豆山，摆开阵势，连绵五十里，边战边退，一天内战败三次。八月壬寅日，杨玄感在董杜原摆阵，各路军队发起进攻，杨玄感大败，只和十多个骑兵逃往上洛。追击的骑兵赶到，杨玄感大声呵斥，骑兵们都转身逃走。逃到葭芦戍时，杨玄感只剩下弟弟杨积善，两人徒步逃跑。杨玄感知道自己无