鲁昭公二十八年（公元前514年），晋魏献子执政，推行举贤才不论亲疏的政策，孔子对此大为赞赏，认为这是仁义之举；鲁昭公二十九年（公元前513年）冬天，晋国铸刑鼎，孔子则认为这预示着晋国的灭亡，源于统治者缺乏良好的制度和法度。
鲁昭公三十年（公元前512年），四十岁的孔子经过多年的人生磨砺，对诸多问题有了更为清晰的认识，他自称“四十不惑”。鲁定公六年（公元前504年），季氏家臣阳虎擅权日重，孔子不满家臣掌政的局面，选择退隐，专注于修着《诗》《书》《礼》《乐》，众多弟子追随左右，共同学习。
尽管孔子起初拒绝与阳虎会面，但后来两人在路上相遇，阳虎劝孔子出仕，不久后孔子被升为小司空。
鲁定公十年（公元前500年），孔子升任鲁国大司寇，代理国相事务。上任仅七日，他便诛杀少正卯，并曝尸三日，鲁国由此实现大治。然而，孔子诛杀少正卯的原因至今仍是历史悬案，从孔子的言论推测，可能是二人政见严重冲突，少正卯的学说与孔子的执政理念相悖，孔子认为其有祸乱社会之嫌。
鲁定公十二年（公元前498年），为削弱三桓（季孙氏、叔孙氏、孟孙氏三家世卿）的势力，孔子采取了“隳三都”的措施，即拆毁三桓所建的城堡。但这一行动最终半途而废，孔子与三桓的矛盾也随之公开化。
鲁定公十三年（公元前497年），五十五岁的孔子对鲁国的政治局势感到失望。齐国送来八十名美女，季桓子接受后，君臣沉迷歌舞，不理朝政。在鲁国举行郊祭后，按惯例应送给大夫们的祭肉也没有送到孔子手中，这无疑是季氏不再任用孔子的信号。无奈之下，孔子离开鲁国，踏上了周游列国的旅程，试图在其他国家实现自己的政治抱负。
鲁定公十四年（公元前496年），孔子带领弟子来到卫国。在卫国，孔子受到卫灵公夫人南子的召见，这一举动引发了弟子子路的不满与批评。在此期间，郑国的子产去世，孔子听闻后悲痛不已，称赞子产是古代流传下来的慈惠之人。
起初，卫灵公对孔子颇为尊重，按照鲁国的俸禄标准给予孔子俸粟6万，但并未赋予他实际官职，也不让他参与政事。
孔子在卫国居住约10个月后，因有人进谗言，遭到卫灵公的怀疑和监视，无奈之下，他只好带领弟子离开卫国，前往陈国。然而，在路过匡城时，因误会被围困5日；逃脱后到达蒲地，又遭遇卫国贵族公叔氏叛乱，再次被困。历经艰难险阻逃脱后，孔子又返回了卫国。
此后，孔子多次离开卫国又返回，一方面是因为卫灵公对他的态度时好时坏，另一方面则是离开卫国后，他一时找不到更好的去处。
鲁定公十五年（公元前495年），孔子离开卫国回到鲁国。鲁哀公元年（公元前494年），吴国派人到鲁国聘问，并就“骨节专车”一事向孔子请教。
鲁哀公二年（公元前493年），孔子再次来到卫国，面对卫灵公的问政，他婉言拒绝。由于在卫国难以施展抱负，孔子离开卫国西行，途经曹国、宋国时，均遭遇冷遇。在宋国，宋司马桓魋对孔子极为厌恶，甚至扬言要加害他，孔子不得不微服而行。
五十九岁的孔子离开卫国后，先后经过曹国、宋国、郑国，最终抵达陈国。在陈国，孔子师徒遭到服劳役之人的围困，身处荒郊野外，粮食断绝长达七日。关键时刻，子贡找到楚人，楚国派兵迎接，孔子师徒才得以脱险。
鲁哀公三年（公元前492年），六十岁的孔子自称此时能够正确对待各种言论，不再感到困惑。在路过郑国时，孔子与弟子失散，独自在东门等候，却被人嘲笑其颓丧的样子如同丧家之犬。此后，孔子又辗转于陈国、蔡国、叶国等地，期间与各国君主、隐者交流，传播自己的思想理念。
鲁哀公六年（公元前489年），孔子与弟子在陈国、蔡国之间再次被困绝粮，许多弟子因饥饿生病，后幸得楚国人相救。在由楚国返回卫国的途中，他们又多次遇到隐者。鲁哀公七年（公元前488年），孔子回到卫国，提出在卫国为政首先要正名的主张。
鲁哀公十年（公元前485年），孔子夫人亓官氏去世。鲁哀公十一年，孔子弟子冉求有功。在冉求的努力下，季康子派人以厚礼迎接孔子返回鲁国。至此，孔子长达十四年的周游列国生涯结束。
回到鲁国后，孔子虽仍有心从政，但始终未被重用。季康子欲施行田赋，孔子表示反对，并向冉有阐述了判断君子行为的标准，强调在施舍、做事、丧葬等方面应遵循的礼数。此后，孔子将主要精力投入到教育及文献整理工作中。
鲁哀公十二年（公元前483年）冬天，孔子的儿子孔鲤去世。鲁哀公十三年（公元前482年），七十岁的孔子自称此时能够随心所欲行事，却又不逾越规矩。
然而，这一年，他最喜爱的弟子颜回先他而去，这让孔子悲痛万分，感慨昔日跟随自己从陈国到蔡国的学生，如今已