霍光听了，觉得有理，就派赵充国去金城（如今的甘肃兰州）坐镇，处理羌人事宜。赵充国到了金城，没急着派兵，而是先找了几个当地的羌人老者来问话。这些老者都是罕羌的，对先零羌的霸道早就不满。赵充国给他们摆了酒，说：“朝廷知道你们罕羌是被先零逼迫的，只要你们不和先零一起闹事，朝廷不仅不追究，还会给你们赏赐，让你们安心放牧。”
老者们听了，都很高兴，说：“我们这就回去，劝部落里的人归附朝廷。”没过几天，罕羌的首领就带着几百人来投降，还把先零羌的动向告诉了赵充国。赵充国趁机派兵，突袭了先零羌的一个据点，斩杀了几百个叛乱的羌人，其他先零羌人见势不妙，纷纷逃到山里去了。
这一次处理羌人叛乱，赵充国没费多少兵力，就平定了局势。他事后对部下说：“对付这些部落，不能只靠武力。只要能分清主次，拉一派、打一派，再给他们些好处，他们自然就不会跟着叛乱了。”这话，后来成了他处理边疆事务的“核心原则”。
从昭帝到宣帝初年，赵充国一直在边境任职，一会儿防备匈奴，一会儿安抚羌人，把边疆治理得井井有条。当地的百姓和羌人部落，都很敬重他，说：“赵将军来了，咱们就不用怕打仗了。”可谁也没想到，到了宣帝神爵元年（公元前61年），西羌又出了大乱子，而这一次，赵充国已经是七十多岁的老人了。
话说宣帝神爵元年春天，先零羌的首领狼何，又联合了罕、开羌的一些部落，再次叛乱。这一次，他们比上次更嚣张，不仅杀了汉朝的边郡官吏，还占领了临羌（如今的青海湟源）、浩亹（如今的甘肃永登）等地，扬言要“打通河西走廊，和匈奴联手，赶走汉朝人”。
消息传到长安，宣帝急坏了，赶紧召集大臣们商议。当时朝里的大将，要么年纪太大，要么没打过羌人，没人敢主动领兵。宣帝叹了口气，说：“难道就没人能去平定羌人叛乱吗？”这时候，有个大臣站出来，说：“陛下，臣举荐一人，定能平定西羌。”宣帝问：“是谁？”大臣说：“后将军赵充国！他常年在边境，又会打仗，只是……他已经七十三岁了。”
宣帝一听，也有些犹豫：七十三岁的老人，还能领兵打仗吗？可眼下实在没人可用，他只能让人去召赵充国进宫。赵充国接到圣旨，立刻赶回长安。宣帝见他须发皆白，可精神头很足，说话也中气十足，心里稍微放宽了些，问：“老将军，如今羌人叛乱，你看能派兵去平定吗？要是让你去，你愿意吗？”
赵充国一听，立刻跪下来，大声说：“陛下！臣虽老，可还能骑马、能射箭、能领兵！西羌叛乱，关乎边疆安危，臣愿领兵出征，不平定羌人，绝不回朝！”宣帝见他这么坚决，又问：“那你估计，需要多少兵力？”赵充国说：“臣看，有一万人就够了。羌人虽勇，可不懂谋略，只要臣用兵得当，定能取胜。”
旁边的大臣们听了，都觉得不可思议：一万人？羌人叛乱的部落，加起来有好几万人，一万人怎么够？有人劝赵充国：“老将军，还是多带些兵吧，免得吃亏。”赵充国却摇头说：“兵不在多，在精。带太多兵，粮草转运困难，反而会误事。臣带一万人，都是在边境打过仗的老兵，足够了。”
宣帝见他胸有成竹，就答应了，任命他为“蒲类将军”，领兵一万，前往西羌平叛。出发那天，长安城外，文武百官都来送行。赵充国披挂整齐，骑在马上，虽然年纪大了，可腰板挺得笔直，看着就像个年轻的将军。他对着百官拱了拱手，说：“诸位放心，老夫定不负陛下所托，早日平定羌人，还边疆一个太平！”说完，一挥手，带着大军浩浩荡荡地向西而去。
列位，这“老将请缨”的故事，后来成了千古美谈。七十三岁的年纪，本该在家安享晚年，可赵充国为了国家，还愿意披甲出征，这份忠诚和勇气，可不是一般人能比的。后来《汉书》里说他“沈勇有大略，少好将帅之节”，这评价真是一点都不假。
赵充国带着一万大军，走了十几天，到了金城。这时候，羌人已经占领了金城以西的几个据点，还派兵在黄河边巡逻，想阻止汉军过河。赵充国到了金城，没有急着进攻，而是先扎下营寨，派人去侦察羌人的布防。
侦察兵回来禀报：“将军，羌人在黄河对岸的渡口，派了几千人防守，还把船只都拉到了岸上，咱们很难过河。”赵充国听了，想了想，说：“羌人以为咱们会从正面渡口过河，肯定防备很严。咱们不如绕到上游，找个隐蔽的地方偷渡，打他们个措手不及。”
当天夜里，赵充国让一部分士兵在正面渡口虚张声势，点燃火把，假装要过河，吸引羌人的注意力。他自己则带着主力部队，悄悄绕到上游十几里的地方，那里有个浅滩，水流不急。汉军将士们牵着马，小心翼翼