公元前515年，孔子37岁时返回鲁国，但是他并没有从政，而是致力于教育事业。他的弟子越来越多，已经有几位被朝廷任用，出而为官，政绩斐然。
当时鲁国国内的情势是孔子拒不出仕的重要原因。公元前505年，季孙氏宗主之位传到季桓子，季桓子年幼，军政大权落到家臣阳货手中。阳货排除异己，软禁幼主，俨然成了季孙氏的当家人。时年，三桓宗主皆幼，阳货也就成了鲁国第一权臣，领导着三桓少主，执政鲁国。
公元前504年，阳货想请孔子出来做官，借此笼络人心。但由于政见不同，孔子没有答应。后来，三桓联手驱逐阳货，鲁国回复到鲁侯坐朝、三桓执政的局面，政局渐趋安定。季桓子对孔子仰慕已久，很想请他出来从政，以推行政治改革，富国强兵。
公元前501年，孔子51岁，鲁定公任命他为中都宰。中都是今山东省汶上县，宰即当地的地方官。孔子到任后，从三个方面着手治理中都：一是改良地方风气，实施礼治；二是预防水、旱灾；三是倡导节约，革除陋习。
一年后，中都大治。男守忠信，女知贞节，商业繁盛，民风淳朴，可说是路不拾遗、夜不闭户。
鲁定公对孔子在中都的政绩极为赞赏，曾召其入宫，问他：“你的政治主张，在中都极有成效。如果在全国范围内推广，可行吗？”
孔子说：“自然可行。”
定公马上任命孔子为大司空。大司空是掌管全国土地建设的官员。
孔子到任之后，马上带着几个弟子考察全国，勘探各处土地的性质和肥瘠，把山林、川泽等一一测量。什么地方的土壤适合种植什么样的农作物，什么地方的池塘适宜养什么样的水产物，什么地方的河川该筑堤还是该疏浚……凡此种种都调查得一清二楚，然后付诸实行。
不久以后，地尽其利，人尽其才，鲁国已无一片荒地，也见不到一个游民。物产丰饶，人民富足安定，国家的税收也增加不少。