这时候，青州的黄巾军进攻兖州，兖州刺史刘岱想带兵迎战。济北相鲍信劝他：“黄巾军有上百万人，咱们的士兵都害怕，根本打不过！而且他们没有粮草辎重，全靠抢劫过日子。咱们不如先坚守城池，等他们粮草耗尽、军心涣散，再选精兵出击，肯定能赢。”刘岱不听，非要去打，结果被黄巾军杀了。曹操的手下陈宫一看机会来了，就劝曹操：“兖州现在没主人，朝廷也管不了，我去说服兖州的官员，您来当刺史，以后以兖州为根基，就能成就大业！”陈宫跑去跟兖州官员说：“天下大乱，兖州不能没有领头人！曹操是大才，要是他来管理，老百姓肯定能过上安稳日子。”鲍信等人也觉得有道理，就去东郡把曹操迎过来当兖州刺史。曹操带兵在寿张东边和黄巾军打仗，一开始没打赢。黄巾军又猛又多，曹操的兵又少又弱，但他不断鼓舞士气，赏罚分明，还想了不少奇招，日夜和黄巾军拼杀。每打一仗，都能俘虏不少敌人，最后黄巾军实在撑不住，只能撤退。可惜鲍信在战斗中战死，曹操怎么都找不到他的尸体，只好刻了个木像，哭着祭奠他。后来朝廷又派金尚来当兖州刺史，曹操哪能让他得逞，半路就把金尚打跑了，金尚只好跑去投奔袁术。
公元192年五月，朝廷任命征西将军皇甫嵩为车骑将军，可谁也没想到，更大的混乱即将来临。
董卓死后，吕布劝王允把董卓的旧部全杀了，王允却觉得这些人没罪，不能滥杀。吕布又提议把董卓的财物分给大臣和将领，王允还是不同意。王允一直只把吕布当会打架的武夫看待，吕布仗着自己杀董卓有功，总爱炫耀，结果愿望落空，心里越来越不痛快，和王允的矛盾也越来越深。王允这人性格刚直，眼里容不得沙子，之前怕董卓，还能委屈自己讨好他。董卓一死，王允就觉得高枕无忧了，变得骄傲起来，手下人也渐渐不再拥护他。
一开始，王允和士孙瑞商量，打算下诏书赦免董卓的旧部。可话到嘴边，王允又犹豫了：“这些人只是听主公的命令办事。现在要是把他们定为逆党，却又赦免，反而会让他们起疑心，这可不是安抚人心的办法。”于是赦免的事就这么搁置了。又有人建议王允解散董卓旧部的军队，有人劝他：“凉州人一直害怕袁家，又忌惮关东联军。现在要是突然让他们放下武器，打开函谷关，他们肯定人人自危。不如让皇甫嵩统领这些军队，驻扎在陕县，也好安抚人心。”王允却摇头：“不行！关东起兵的都是我们的盟友，现在如果据守险要屯兵陕县，虽然能稳住凉州人，却会让关东联军起疑心，这可不行。”
就在这时，民间突然传言说朝廷要杀光凉州人。董卓的旧部将领们一听，吓得人心惶惶，纷纷带兵自保，还互相商量：“蔡邕就因为和董卓关系好，都被牵连而死。现在朝廷不仅不赦免我们，还要解散军队，今天放下武器，明天就得任人宰割！”
吕布派李肃到陕县，拿着诏书去杀牛辅。牛辅带着部下和李肃打了起来，李肃战败逃到弘农，被吕布杀了。牛辅本来就胆小，这时军营里又无缘无故地骚动起来，他吓得想逃跑，结果被手下人杀了。李傕等人回来，发现牛辅已死，一下子没了主心骨，就派人到长安请求赦免。王允却冷冰冰地说：“一年不能赦免两次。”拒绝了他们。
李傕等人更慌了，不知道该怎么办，打算各自逃命回老家。这时，讨虏校尉贾诩站出来说：“你们要是扔下军队独自逃跑，随便一个小官就能把你们抓起来！不如一起向西攻打长安，为董卓报仇。要是成功了，就打着朝廷的旗号平定天下；就算失败，再跑也不迟！”李傕等人觉得有道理，立刻结盟，带着几千人日夜兼程向长安进发。
王允听说后，找来胡文才、杨整修，这两人在凉州很有威望，王允想派他们去劝李傕等人退兵。可王允态度傲慢，板着脸对他们说：“关东那帮小子想干什么？你们去把他们叫来！”结果这两人表面答应，实际上却帮着李傕召集军队。李傕一路上不断招兵买马，等赶到长安时，已经有十多万人，还联合董卓旧部樊稠、李蒙等人把长安城围了个水泄不通。长安城城墙高大坚固，李傕他们攻了八天都没打下来。
没想到，吕布军队里的叟兵突然叛变，六月戊午日，他们打开城门放李傕的军队进城。叛军进城后烧杀抢掠，无恶不作。吕布在城里和他们交战，打不过，只好带着几百骑兵，把董卓的脑袋拴在马鞍上逃跑。临走前，他在青琐门外喊王允一起走，王允却摇头说：“如果能保佑国家平安，这是我的心愿；如果不能，我就以身殉国。皇上年纪小，只能依靠我，我不能在危难时苟且偷生。你替我向关东的各位豪杰问好，让他们多为国家着想！”太常种拂也悲愤地说：“身为国家大臣，却不能抵御暴徒，现在敌人都打到皇宫了，我还能逃到哪里去！”说完冲上去战斗，最终战死。
李傕、郭汜的军队驻扎在南宫掖门，杀死了太仆鲁馗、大鸿胪周奂、城门校尉崔烈、越骑校尉王颀，长安城里死伤上万人，尸体横七竖八地堆满街道。王允扶着汉献帝登上宣平门躲避战乱，李傕等人