咸宁五年（公元279年）春正月，树机能攻陷凉州。武帝十分后悔，临朝叹息说：“谁能为我讨伐这个虏寇？”司马督马隆进言：“陛下若能任用臣，臣能平定它。”武帝说：“若必能平贼，为何不任用，只是看你的方略如何！”马隆说：“臣愿招募勇士三千人，不问他们从哪里来，率领他们向西，虏寇不难平定。”武帝答应了。乙丑，任命马隆为讨虏护军、武威太守。公卿都说：“现有兵力已多，不宜随意设赏招募，马隆是小将，妄言不足信。”武帝不听。马隆招募能拉开四钧弓、挽起九石弩的人录取，立标测试。从早晨到中午，得三千五百人。马隆说：“足够了。”又请求亲自到武库选兵器，武库令与马隆争吵，御史中丞弹劾马隆。马隆说：“臣将效命战场，武库令却给我曹魏时的朽兵器，这不是陛下让我出使的本意。”武帝命任凭马隆选取，还供给三年军资后遣送他出发。
一开始，南单于呼厨泉让哥哥于扶罗的儿子刘豹做左贤王。到了魏武帝的时候，把匈奴分成了五个部落，刘豹就成了左部的统帅。刘豹的儿子刘渊，从小就才智出众，他拜上党人崔游为师，广泛学习经史典籍。刘渊曾对同窗好友上党人朱纪、雁门人范隆感慨：“我常常觉得，汉初的随何、陆贾有文才没武力，绛侯周勃、灌婴有武力没文才，太可惜了。随何、陆贾遇到汉高祖，却没能立下封侯的功业；周勃、灌婴碰上汉文帝，也没能推动教育发展，这难道不让人遗憾吗！”于是，他开始同时学习军事。等长大后，刘渊臂长如猿，擅长射箭，力气过人，而且身材魁梧、仪表堂堂。因为要做人质，刘渊留在洛阳，王浑和他儿子王济都很看重刘渊，还多次向晋武帝推荐。晋武帝召见刘渊交谈，也很欣赏他。王济说：“刘渊文武双全，陛下要是让他去掌管东南事务，平定吴国不在话下。”但孔恂、杨珧却反对：“不是我们同族的人，心思肯定不一样。刘渊确实才华出众，但不能委以重任。”后来凉州失陷，晋武帝向李憙询问可用的将领，李憙说：“陛下要是能调动匈奴五部的兵力，再给刘渊一个将军的名号，让他带兵西征，秃发树机能的脑袋很快就能砍下来。”孔恂却又说：“要是刘渊真杀了秃发树机能，那凉州以后的祸患只会更大。”晋武帝听了这话，就打消了这个念头。
东莱人王弥，家里世代都是两千石的高官。他既有学问，又有勇有谋，还擅长骑马射箭，青州人都叫他“飞豹”。不过，王弥喜欢行侠仗义，陈留的隐士董养见到他后，就说：“你就爱捣乱、惹祸，要是天下大乱，你肯定不会安心当士大夫。”刘渊和王弥关系很好，他对王弥说：“王济、李憙因为和我是同乡才赏识我，还经常推荐我，可这只会给我招来麻烦。”说完就忍不住叹气流泪。齐王司马攸听说后，就劝晋武帝：“陛下要是不除掉刘渊，我担心并州以后没法安宁。”王浑却站出来说：“我们大晋正要用诚信收服异族，怎么能因为无端的猜疑就杀了做人质的人呢？这多没有气度啊！”晋武帝觉得王浑说得有道理。正好这时刘豹去世，晋武帝就让刘渊接替他父亲，做了左部统帅。
咸宁五年夏天四月，晋朝大赦天下，还废除了部曲督以下官员需要上交人质的规定。
在吴国这边，桂林太守修允去世，他手下的士兵本来要分给其他将领。但督将郭马、何典、王族等人，他们家好几代都在军中，不愿意和老部队分开。正好赶上吴国要清查广州的户口，郭马等人就趁着民心不稳，聚众造反，杀了广州督虞授。郭马自称都督交州、广州诸军事，还派何典攻打苍梧，王族攻打始兴。到了秋天八月，吴国任命军师张悌为丞相，牛渚都督何植为司徒，执金吾滕修为司空。但还没正式任命，又改派滕修为广州牧，让他率领一万人从东路去讨伐郭马。郭马接着又杀了南海太守刘略，赶走了广州刺史徐旗。吴主又派徐陵督陶浚率领七千人，从西路和交州牧陶璜一起攻打郭马。
这期间，吴国还发生了件荒唐事。有工人黄聃家里长出一种菜，叫鬼目菜；工人吴平家里长出一种菜，叫买菜。东观官员翻查图书后，给鬼目菜起名叫芝草，给买菜起名叫平虑草。吴主就封黄聃为侍芝郎，封吴平为平虑郎，还赐给他们银印和青绶。
吴主孙皓每次宴请大臣，都要把大家灌得酩酊大醉。他还专门安排了十个黄门郎当“监察员”，宴会结束后，这些人就上奏大臣们在宴会上的过失，不管是眼神不对，还是说错话，都会被举报。犯了大错的直接被处死，小错的也会被记录下来治罪，有的大臣甚至被剥脸、挖眼。这么一来，吴国上下人心惶惶，没人愿意再为孙皓卖命。
益州刺史王濬向晋武帝上书说：“孙皓荒淫残暴，应该赶紧出兵讨伐。要是哪天孙皓死了，吴国立了贤明的君