刘曜下令内外戒严，准备亲自讨伐句渠知。游子远又劝谏说：“陛下如果真能采用我的计策，一个月就能平定叛乱，陛下不必亲自出征。”刘曜说：“你说说看。”游子远说：“他们没有远大志向，不想图谋不轨，只是害怕陛下的严刑峻法，想逃死罢了。陛下不如大赦天下，给他们改过自新的机会；对于之前因解虎、尹车等事受牵连，家属中老人小孩被没入官府做奴婢的，都释放遣返，让他们互相招引，允许他们恢复本业。他们既然有了生路，怎么会不投降呢！如果其中有自知罪重，聚集不散的，希望给我五千弱兵，一定为陛下把他们消灭。不然的话，现在反叛的人满山满谷，即使凭借陛下的天威去征讨，恐怕也不是短时间能铲除的。”刘曜非常高兴，当天就大赦天下，任命游子远为车骑大将军、开府仪同三司、都督雍、秦征讨诸军事。游子远驻扎在雍城，投降的有十多万人；转移军队到安定，反叛的人都投降了。只有句氏宗族五千多家据守阴密，游子远进军攻打，消灭了他们，于是率兵巡视陇右。此前氐人、羌人十多万部落占据险要地势不肯降服，他们的首领虚除权渠自号秦王。游子远进军到他的壁垒前，虚除权渠出兵抵抗，五次交战都失败了。虚除权渠想投降，他的儿子伊馀对众人扬言说：“以前刘曜亲自来，尚且不能把我们怎么样，何况这支部队，说什么投降！”率领五万精锐士兵，清晨逼近游子远的营垒大门。将领们想出击，游子远说：“伊馀勇猛强悍，当今无敌，他率领的士兵，又比我们精锐。加上他父亲刚战败，怒气正盛，锋芒不可阻挡，不如暂缓出战，等他士气衰竭后再攻打。”于是坚守营垒不出战。伊馀面有骄色，游子远趁他没有防备，夜里率兵在寝席上进食，天亮时，遇到大风尘土飞扬，游子远率领全部士兵突然袭击，活捉伊馀，俘虏了他的全部部众。虚除权渠十分恐惧，披散头发、用刀割脸请求投降。游子远向刘曜上奏，任命虚除权渠为征西将军、西戎公，分别迁徙伊馀兄弟和他们的部落二十多万人到长安。刘曜任命游子远为大司徒、录尚书事。
刘曜建立太学，选拔精神志向可教的一千五百名百姓，选择儒臣教导他们。修建酆明观和西宫，在滈池建造陵霄台，又在霸陵西南营建寿陵。侍中乔豫、和苞上疏劝谏，认为：“卫文公在乱亡之后，节俭用度、爱护百姓，营建宫室，符合当时的制度，所以能复兴康叔的功业，延续九百年的福运。之前陛下下诏营建酆明观，市井百姓都讥讽它奢侈，说：‘用建造一座观的功夫，足以平定凉州了！’现在又想模仿阿房宫建造西宫，效法琼台建造陵霄台，耗费的人力财力，是酆明观的亿万倍；如果把这些物资用于军队，就可以兼并吴、蜀，统一齐、魏了！又听说营建寿陵，周围四里，深三十五丈，用铜做外棺，用黄金装饰；这样的耗费，恐怕不是国内能承担的。秦始皇在地下用铜水灌注三泉，坟土还没干就被发掘毁坏。自古以来没有不灭亡的国家、不被挖掘的坟墓，所以圣明的君主实行俭葬，是深远的考虑。陛下怎能在中兴的时候，却沿袭亡国的做法呢！”刘曜下诏说：“两位侍中恳切忠诚有古人之风，可以说是社稷之臣。立即停止所有宫室劳役，寿陵的规模，一律遵循霸陵的制度。封乔豫为安昌子，和苞为平舆子，都兼任谏议大夫；并向天下宣告，让人们知道我这小小的朝廷，愿意听到自己的过失。”又撤销酆水的禁苑，把土地给贫民。
祖逖的部将韩潜和后赵的将领桃豹分别占据陈川的旧城，桃豹驻守西台，韩潜驻守东台，桃豹从南门出入，韩潜从东门出入，相互对峙了四十天。祖逖用布袋装满土，看起来像米，派一千多人运到东台；又派几个人担着米，在路上休息。桃豹的士兵追赶他们，担米的人丢下担子就跑。桃豹的士兵长期饥饿，得到米后，认为祖逖的士兵吃得很饱，更加害怕。后赵将领刘夜堂用一千头驴运粮送给桃豹，祖逖派韩潜和别将冯铁在汴水截击，把粮食全部缴获。桃豹连夜逃跑，驻扎在东燕城，祖逖派韩潜进军驻扎在封丘逼近他。冯铁占据了两座台，祖逖镇守雍丘，多次派兵截击后赵军队，后赵镇守的士兵归顺祖逖的很多，后赵的领土逐渐缩小。
此前，赵固、上官巳、李矩、郭默互相攻击，祖逖派使者前去调解，向他们说明祸福，于是他们都接受祖逖的调度。秋七月，朝廷下诏加授祖逖为镇西将军。祖逖在军中，和将士同甘共苦，严于律己，广施恩惠，鼓励农业生产，安抚接纳新来归附的人，即使是地位低微的人也用恩礼结交。黄河边的各坞堡，此前有子弟在後赵当人质的，祖逖都允许他们同时归附两边，还时常派巡逻军队假装抄掠，表明他们没有归附自己。坞堡主都很感激，後赵有什么阴谋，就秘密告知祖逖，因此祖逖多次取得胜利，从黄河以南，很多地方背叛后赵归顺晋朝。
祖逖操练军队、积蓄粮食，为收复河北做准备。后赵王石勒对此很担心，就下令幽州为祖逖修缮祖父、父亲的坟墓，安排两家守墓人，还写信给祖逖，请求互通使者和进行贸易。祖逖没有回信，但允许贸易，获利十倍。祖逖的牙门童建杀了新蔡内