第二天一早，吴起提着一个食盒，径直走进鲁王宫。鲁穆公见他来了，还没开口，吴起就把食盒往桌上一放，打开盖子：“主公，此乃臣妻之肉。臣杀妻明志，绝无通齐之心，愿率军破齐，以报主公！”鲁穆公往盒里一看，顿时吓得魂飞魄散，连退三步，指着吴起说：“你……你竟如此狠辣！”可转念一想，鲁国正急着用人，也只能硬着头皮拜吴起为大将，拨给他两万士兵。
吴起拜将后，第一件事就是整顿军纪。他见鲁军士兵个个面黄肌瘦，盔甲破烂，就对士兵们说：“想打胜仗，先得有饭吃、有衣穿！”当即下令，把军中囤积的粮食全部分给士兵，又让人赶制新盔甲，自己则跟士兵们一起吃粗粮、睡帐篷，半点没有大将的架子。
可鲁军多年没打过仗，士气低落，有人私下抱怨：“齐军有五万，我们才两万，这仗怎么打？”吴起听到后，在演武场召集全军，手里拿着一把剑，指着前方的旗帜说：“明日交战，谁能先夺下齐军的帅旗，赏黄金百镒，封上大夫！若有人临阵脱逃，我这把剑第一个斩他！”说完，他一剑劈断了身边的旗杆，吓得士兵们个个噤若寒蝉。
决战那天，齐军大将田和见鲁军人少，根本没放在眼里，下令全军冲锋。吴起却不慌不忙，让士兵们列成“雁行阵”，前排持盾，后排持弓箭，等齐军冲到五十步远时，他大喊一声：“放箭！”顿时，箭如雨下，齐军倒下一片。田和见状，忙下令撤军，可吴起早已派一支精兵绕到齐军后方，断了他们的退路。
这时候，吴起身披重甲，手持长戈，亲自率军冲锋。他大喊：“跟我冲！杀一个齐兵，赏粮五石！”鲁军士兵见大将带头，又有重赏，顿时红了眼，跟着吴起往前冲。齐军本就乱了阵脚，被鲁军这么一冲，更是溃不成军，田和带着残兵仓皇而逃。此役，鲁军斩杀齐军一万余人，缴获战车两百辆，大获全胜。
可当吴起率军凯旋时，鲁国百姓却站在城门两侧，有的扔石头，有的骂：“杀妻的凶手！还我鲁国的仁义！”吴起坐在战车上，看着那些愤怒的百姓，脸上没有丝毫表情，只是挥手让士兵继续前进。他心里清楚，鲁国这地方，容不下他这样的“狠人”——果不其然，鲁穆公见他功高震主，又怕他再惹出祸来，就找了个借口，收回了他的兵权。吴起知道，鲁国待不下去了，该去寻找下一个能容他的地方了。
离开鲁国后，吴起听说魏文侯魏斯正在招揽天下贤才，便收拾好自己的《兵法》手稿，一路向西投奔魏国。当时魏国刚经历李悝变法，国力渐强，但西边的秦国一直虎视眈眈，经常侵扰魏国的西河郡（今陕西渭南一带），魏文侯正愁找不到能守西河的大将。
吴起见到魏文侯后，没说半句客套话，直接就讲兵法：“治国先治军，治军先治气。士兵有士气，才能以一当十；军队有纪律，才能百战不殆。若主公信我，我愿为魏国打造一支‘天下无敌’的军队！”魏文侯听着觉得有理，又问丞相李悝：“你觉得吴起这人怎么样？”李悝直言不讳：“吴起这人，贪财好色，性格狠辣，但论用兵，就算是司马穰苴（春秋名将）也比不上他。”魏文侯一听，当即拍板：“我用的是他的兵法，不是他的人品！”当场拜吴起为大将，命他镇守西河郡。
吴起一到西河，就知道这地方不好守——西河郡紧挨着秦国的洛水，秦军经常渡过洛水来抢粮，魏国的守军要么打不过，要么不敢打，百姓苦不堪言。吴起第一件事就是去视察军营，一进营门就皱了眉：士兵们有的在赌钱，有的在睡觉，盔甲扔在一边，兵器上全是锈。他当即下令：“全军集合！”
士兵们磨磨蹭蹭地站好队，一个个吊儿郎当。吴起拿着鞭子，指着一个睡懒觉的士兵说：“军营之中，当以军令为天，你敢违抗军令，该当何罪？”那士兵还想辩解，吴起二话不说，一鞭子下去，打得他皮开肉绽。接着，他又把几个赌钱的士兵拉出来，每人杖责五十。这下，全军士兵都吓得不敢出声。
整顿完纪律，吴起就开始干一件大事——创建“魏武卒”。他在西河郡贴出告示：“凡能身披三重甲（外层铁甲、中层皮甲、内层绵甲）、手执长戟、腰悬利剑、背负十二石弩（约今三百斤）、五十支箭，再携带三天口粮，半日疾行百里者，即可为魏武卒！一旦入选，免除全家徭役，赐田百亩、宅一处，战死则赏家人粟米千石！”
这告示一贴出去，西河郡的青壮年都疯了——免除徭役、赐田赐宅，这可是天大的好处！第二天，演武场就挤满了人，足足有上万人。吴起亲自校阅，一个个测试：先看能不能披三重甲，再看能不能拉开十二石弩，最后看能不能疾行百里。
有个叫公孙壮的壮汉，长得人高马大，披甲、拉弩都过了关，可疾行到八十里时，实在撑不住，倒在地上大口喘气。吴起走过去，看着他说：“你若现在放弃，就只能回家种庄稼；若能坚持，就能改变全家的命运。”公孙壮一听，咬着牙爬起来，硬是拖着沉重的装备，走完了最后二十里。吴起拍着他的肩膀说：“你合格