刘渊回到左国城后，刘宣等人正式拥戴他为大单于。短短二十天，就聚集了五万人马，以离石为都城，任命刘聪为鹿蠡王。刘渊派左于陆王刘宏带五千精锐骑兵，去和司马颖的部将王粹会合，抵抗司马腾。结果王粹先被司马腾打败，刘宏只能无功而返。
王浚和司马腾合兵攻打王斌，大获全胜。王浚让主簿祁弘担任前锋，在平棘打败石超，然后乘胜进军。侦察兵到了邺城附近，城里人心惶惶，官员们四处奔逃，士兵也纷纷溃散。卢志劝司马颖带着皇帝回洛阳，当时还有一万五千士兵。卢志连夜安排，眼看天快亮就要出发，程太妃却舍不得离开邺城，司马颖也犹豫不决。没等他拿定主意，军队就彻底溃散了。司马颖只好带着几十个亲信，和卢志一起，用牛车拉着皇帝往洛阳逃。走得太匆忙，大家身上没钱，幸好一个小黄门的包袱里有三千私钱，皇帝下旨借来，路上买点饭吃。晚上睡觉，皇帝盖着小黄门的布被，用瓦盆吃饭。到温县时，皇帝想去拜谒先帝陵墓，结果鞋子丢了，只能穿随从的鞋，拜谒时忍不住痛哭流涕。
过黄河时，张方派儿子张罴带三千骑兵，拉着马车来迎接皇帝。到芒山下，张方亲自带一万多骑兵来接。张方要行拜礼，皇帝赶紧下车拦住他。回到洛阳后，逃散的官员士兵慢慢回来一些，朝廷才勉强恢复点样子。八月十八日，朝廷再次大赦天下。
王浚带兵进了邺城，他的士兵烧杀抢掠，死了不少人。王浚派乌桓人羯朱去追司马颖，一直追到朝歌也没追上。王浚回蓟城后，发现鲜卑士兵抢了很多汉族妇女，就下令：“谁藏人就砍头！”结果八千多被抢的妇女，因为无处可去，被逼着投进易水淹死。
东嬴公司马腾向拓跋猗借兵打刘渊。拓跋猗和弟弟拓跋猗卢合兵，在西河打败刘渊，又和司马腾在汾东结盟后撤军。刘渊听说司马颖丢了邺城逃走，叹气说：“不听我的话，活该溃败，真是个废物！但我答应过帮他，不能不管。”他准备出兵打鲜卑、乌桓，刘宣等人劝他：“晋人把咱们当奴隶，现在他们自己人打起来，是老天要帮咱们复兴匈奴大业。鲜卑、乌桓和咱们是同族，可以当帮手，为啥要打他们？”刘渊一听有道理，说：“好！大丈夫要学汉高祖、魏武帝，呼韩邪单于那点成就有啥可学的！”刘宣等人赶紧磕头：“您的志向，我们远远比不上！”
这时候，荆州的官兵抓住并斩杀了张昌，他的同党全部被灭三族。
李雄觉得范长生德高望重，蜀地百姓都敬重他，想迎他当君主，自己称臣。范长生坚决推辞，将领们就一致请李雄称帝。这年冬天十月，李雄自称成都王，大赦天下，改年号为建兴。他废除晋朝的法律，只定了七条新规矩。封叔父李骧为太傅，哥哥李始为太保，李离为太尉，李云为司徒，李璜为司空，李国为太宰，阎式为尚书令，杨褒为仆射。尊母亲罗氏为王太后，追封父亲李特为成都景王。李雄觉得李国、李离有谋略，遇事都先问他们的意见。而李国、李离对李雄也越发恭敬。
刘渊把都城迁到左国城，匈奴人和汉人来投奔的越来越多。刘渊对手下说：“汉朝统治天下很久，百姓都念着它的好。我是汉朝的外甥，和汉室约为兄弟，哥哥死了弟弟继承，有何不可？”于是定国号为“汉”。刘宣等人劝他称帝，刘渊说：“现在天下还没平定，先学汉高祖称汉王吧。”他称汉王后，大赦天下，改元元熙。追尊蜀汉后主刘禅为孝怀皇帝，供奉西汉高祖、文帝、武帝等八位皇帝的神位祭祀。立妻子呼延氏为王后，封刘宣为丞相，崔游为御史大夫，还任命了一堆官员。崔游坚决不肯做官。
陈元达年轻时就有志气，刘渊以前招他，他不理。刘渊称汉王后，有人问他：“你不怕被治罪吗？”陈元达笑着说：“我了解刘渊，他也懂我的心，估计过两天诏书就来了。”果然当晚，刘渊就派人来请他。陈元达辅佐刘渊后，经常进谏，退朝就把谏言草稿销毁，连家人都不知道内容。
刘曜天生白眉毛，眼睛发红光，从小聪明有胆识，父母早亡，由刘渊抚养长大。长大后身材魁梧，性格豪爽，不爱与人合群。他爱读书、会写文章，能一箭射穿一寸厚的铁板。他常把自己比作乐毅、萧何、曹参，当时没人认可，只有刘聪看重他，说：“永明（刘曜字）是汉光武帝、魏武帝那样的人物，萧何他们哪比得上！”
晋惠帝回到洛阳后，张方手握重兵独揽朝政，司马颖彻底没了权力。范阳王司马虓、东平王司马楙等人上书说：“司马颖没本事，该降为小封王，留他一条命。司马颙该管好关中，地方官员任免都交给他；朝廷大事，让他多提意见。张方虽然为国效力，但不懂变通，该让他回长安，官职照旧。司马越、王戎忠心，该让他们处理朝政。王浚立了大功，该给他更高地位，镇守北方。我们这些藩王尽力保卫皇室，陛下就能安稳治国了。”
张方的士兵在洛阳抢得差不多了，军心浮动，都想回长安。张方想逼皇帝迁都，但怕皇帝和大臣们不同意，就打算骗皇帝出城再劫持。他请皇帝去拜谒宗庙，皇帝拒绝了。十一月乙未日，张方带兵冲进皇