甘延寿听了，心里也觉得陈汤说得有道理，可他为人谨慎，连忙摆手道：“子公，此事非同小可，出兵讨伐乃是军国大事，必须先奏请朝廷，等陛下批准了，才能行动。若我们擅自出兵，那就是‘矫诏’（假传圣旨），是灭族之罪啊！”
陈汤知道甘延寿是怕担责任，便又劝道：“将军，兵贵神速！西域离长安数千里，一来一回，至少要几个月的时间。等朝廷的圣旨下来，郅支说不定早就加固了城池，招募了更多兵力，到时候我们再出兵，怕是要付出更大的代价。再说，朝堂上大臣们意见不一，万一他们反对出兵，这事就黄了。不如我们先斩后奏，等平定了郅支，再向朝廷请罪，到时候陛下见我们立了大功，想必也不会过多追究。”
可甘延寿还是犹豫不决，他觉得“矫诏”的风险太大，万一失败，不仅自己要掉脑袋，还要连累家人和部下。两人就这么争论了好几次，甘延寿始终不肯松口，陈汤也只能暂时作罢，但他心里早已下定了决心，只要有机会，就一定要实施这个计划。
机会很快就来了。没过多久，甘延寿突然病倒了，卧床不起，西域都护府的事务，暂时就落到了陈汤手里。陈汤见时机成熟，立刻召集了西域都护府的各级军官，还有西域诸国的国王和将领，当众宣布：“奉大汉天子之命，调集汉朝屯田兵及西域诸国兵力，征讨郅支单于，为汉使报仇，扬我汉威！诸将若有不从者，以抗旨论处！”
这些军官和西域国王，一来敬畏汉朝的威严，二来也早就不满郅支的欺压，听陈汤说有天子的命令，纷纷表示愿意出兵。陈汤雷厉风行，当天就开始调兵遣将：他先是调集了汉朝在西域的屯田兵四千多人，又征集了乌孙、康居（部分不满郅支的部落）、大宛等国的兵力三万多人，总共四万多人，分成两路，一路从南道出发，经过葱岭，穿过大宛；另一路从北道出发，经过乌孙，直奔康居国的郅支城。
就在陈汤把军队集结完毕，准备出发的时候，甘延寿的病突然好了大半。他听说陈汤私自调兵，顿时大惊失色，连忙起身去阻止陈汤。甘延寿赶到军营，见士兵们个个盔明甲亮，士气高昂，正要出发，便拉住陈汤的手，急道：“子公！你怎么能私自调兵？这是‘矫诏’啊！快下令让士兵们解散，我们赶紧上奏朝廷，承认错误！”
陈汤见甘延寿来了，知道瞒不住了，他拔出腰间的佩剑，往地上一插，沉声道：“将军！军队已经集结完毕，粮草也已备好，此时若解散军队，不仅会让西域诸国嘲笑我汉朝出尔反尔，还会让郅支知道我们的计划，以后再想讨伐，就难如登天了！如今箭在弦上，不得不发！将军若是怕担责任，便留在都护府，此事由我一人承担，若将来朝廷追责，我陈汤一人领罪，与将军无关！”
甘延寿看着陈汤坚定的眼神，又看了看营中士气高涨的士兵，心里也犯了嘀咕：他知道陈汤的计划是对的，若真能斩杀郅支，那可是不世之功；可若是失败，“矫诏”之罪确实是灭族之祸。就在他犹豫不决的时候，陈汤又道：“将军，我们身为汉朝的将领，镇守西域，就是为了保护汉朝的子民，维护汉朝的尊严。郅支杀我汉使，辱我汉朝，我们若坐视不管，将来有何颜面面对我大汉国民，有何颜面回长安见陛下？”
这番话，说到了甘延寿的心坎里。他也是将门之后，骨子里也有武将的血性，只是平时被谨慎的性格束缚了。此刻被陈汤一激，他也下定了决心，对陈汤道：“子公，你说得对！我身为西域都护，岂能畏首畏尾？既然事已至此，我便与你一同出征，若能成功，是国家之福；若不成功，我们二人一同领罪！”
陈汤见甘延寿答应了，大喜过望，连忙让人给甘延寿披上铠甲，两人一同登上高坛，下令军队出发。四万大军，分成两路，浩浩荡荡地向郅支城进军。
这一路行军，可真是艰苦啊！西域的戈壁滩，白天烈日炎炎，沙子被晒得滚烫，士兵们走在上面，脚底板都快被烫熟了；到了晚上，又寒风刺骨，气温能降到零下好几度，不少士兵都冻得瑟瑟发抖。而且一路上水源稀少，粮草运输也困难，有时候士兵们只能靠吃干粮、喝积雪。
可陈汤和甘延寿却毫无怨言，他们亲自走在队伍前面，鼓舞士兵们的士气。陈汤还特意下令，严禁士兵劫掠沿途的百姓，若是遇到西域小国的部落，还主动送上礼物，说明汉朝出兵是为了讨伐郅支，与他们无关。这样一来，沿途的西域部落不仅没有阻拦汉军，反而还主动给汉军提供粮草和向导，大大加快了行军速度。
走了将近一个月，汉军终于抵达了康居国境内。陈汤得知，郅支最近又派了不少人去劫掠康居的百姓，康居的部落首领对郅支恨之入骨，便派人去联络这些部落首领，让他们配合汉军作战。这些部落首领一听汉军要来讨伐