刘曜下令内外戒严，准备亲自讨伐句渠知。游子远又劝谏说：“陛下如果真能采用我的计策，一个月就可以平定，不必陛下亲自征讨。”刘曜说：“你试着说说看。”游子远说：“他们并没有大的志向，想图谋非分的帝位，只不过是畏惧陛下的威严刑戮，想逃避死亡罢了。陛下不如宽宏大量地实行大赦，给他们改过自新的机会；凡是前些日子受解虎、尹车等人事牵连，其家中的老弱被没入奚官署为奴的，全都释放遣返，让他们自己互相招引，允许他们恢复旧业。他们既然获得了生路，怎么会不投降呢！如果其中有人自知罪孽深重，聚集不散的，希望给我五千弱兵，我一定为陛下消灭他们。不这样的话，现在反叛的人满山遍谷，即使凭借陛下的天威去征讨，恐怕也不是短期内能铲除的。”刘曜大为高兴，当天就大赦天下，任命游子远为车骑大将军、开府仪同三司、都督雍秦征讨诸军事。游子远屯驻在雍城，投降的人有十多万；移军安定，反叛者都投降了。只有句氏宗族党羽五千多家据守阴密，游子远进军攻击，消灭了他们，于是率兵巡视陇右。在此之前，氐族、羌族十多万部落占据险要之地不归服，其酋长虚除权渠自号秦王。游子远率军进至其堡垒，虚除权渠出兵抵抗，五次交战都失败了。虚除权渠想投降，他的儿子虚除伊馀对众人夸口说：“以前刘曜亲自来，尚且不能把我们怎么样，何况这只是偏师，说什么投降！”率领五万精锐士卒，清晨逼近游子远的营门。诸将想要出击，游子远说：“虚除伊馀勇猛强悍，当今无敌，他所率领的士兵，又比我们的精锐。加上他的父亲刚被打败，怒气正盛，其锋芒不可抵挡，不如缓一缓，等他们的气势衰竭了再攻击他们。”于是坚守壁垒不出战。虚除伊馀面露骄色，游子远趁他没有防备，夜间部署军队，清早在寝席上进食（准备作战），早晨，正赶上大风扬尘，天色昏暗，游子远全军出动进行掩杀，生擒虚除伊馀，全部俘虏了他的部众。虚除权渠大为恐惧，披散头发、用刀划脸（自毁面容以示谢罪）前来请求投降。游子远禀报刘曜，任命虚除权渠为征西将军、西戎公，分批迁徙虚除伊馀兄弟及其部落二十多万人口到长安。刘曜任命游子远为大司徒、录尚书事。
刘曜建立太学，挑选百姓中精神志趣可以教导的一千五百人，选择儒臣来教育他们。建造酆明观和西宫，在滈池兴建陵霄台，又在霸陵西南营建寿陵。侍中乔豫、和苞上疏劝谏，认为：“卫文公继承乱亡之后，节俭爱民，营建宫室，符合当时制度，所以能振兴康叔的基业，延续九百年的国运。前不久奉诏书营建酆明观，市井小民都讥讽其奢侈说：‘修建这一座观的人力物力，足以平定凉州了！’现在又想仿照阿房宫来建造西宫，效法琼台而起造陵霄台，这些工程所需的劳力和费用，比酆明观要多亿万倍；如果用来资助军队，就可以兼并吴、蜀而统一齐、魏了！又听说营建寿陵，周长四里，深三十五丈，用铜做外椁，用黄金装饰；如此耗费功力，恐怕不是国内所能承担的。秦始皇墓穴深灌铜汁下锢三泉，坟墓上的土还没干就被发掘毁坏了。自古以来没有不灭亡的国家、不被挖掘的坟墓，所以圣王实行薄葬，才是深远的考虑。陛下为什么要在中兴之时，却去重蹈亡国的事情呢！”刘曜下诏说：“二位侍中恳切直言有古人之风，可以说是社稷之臣了。那就全部停止各种宫室的劳役，寿陵的规制，一律遵循霸陵的成法。封乔豫为安昌子，和苞为平舆子，同时兼任谏议大夫；并向天下布告，使大家知道我们这个小小的朝廷，是想听到自己过错的。”又撤销酆水苑囿交给贫民使用。
祖逖的部将韩潜与后赵将领桃豹分别占据陈川的旧城，桃豹占据西台，韩潜占据东台，桃豹由南门出入，韩潜由东门出入，双方相互对峙四十天，祖逖用布袋装满土好像米袋的样子，派一千多人运上东台，又派几个人挑着米，在路边休息。桃豹的士兵追赶他们，他们丢下担子逃跑。桃豹的士兵饥饿已久，抢到米，以为祖逖的士兵粮食充足吃得饱，更加恐惧。后赵将领刘夜堂用一千头驴运粮馈赠桃豹，祖逖派韩潜和别将冯铁在汴水截击，全部缴获了这些粮食。桃豹连夜逃跑，屯驻东燕城，祖逖派韩潜进军屯驻封丘威逼他。冯铁占据了东西二台，祖逖镇守雍丘，多次派兵截击后赵军队，后赵镇守戍卫的将士归附祖逖的很多，后赵的境土逐渐缩小。
在此之前，赵固、上官巳、李矩、郭默，互相攻击，祖逖派使者奔驰往来为他们调解，说明利害祸福，于是他们都接受祖逖的指挥调度。秋季，七月，元帝下诏加授祖逖镇西将军。祖逖在军中，与将士同甘共苦，约束自己，广施恩惠，鼓励督促农业生产，安抚接纳新归附的人，即使是关系疏远、地位低下的人也都以恩礼相交结。黄河岸上的各坞堡，先前有送人质到后赵的，都听任他