孔子把诸事交给伯鱼照顾，自己带领弟子往西而去，目的地是卫国。
当他们到达鲁国边境，准备停下来歇息的时候，几匹马飞奔扬尘，从后面追赶上来。原来是季桓子派人前来挽留，来人说：“季卿听说夫子弃官出走，立即命我问问究竟。夫子，并没人得罪您啊，为什么要离开呢？”
孔子回道：“我可以唱首歌，作为答复。”
于是，孔子抚琴而歌之：“彼妇之口，可以出走；彼妇之谒，可以死败。盖优哉游哉，维以卒岁。”
这段词的大意是说：那些迷惑人的妇人，可以逼走大臣和亲信；那些迷惑人的妇人，足以败国亡身。我已尽力，无法力挽狂澜，倒不如悠闲地度过余生。
来人一听孔子唱完，一阵心酸，不禁潸然泪下。他知道孔子去意已决，根本无法挽留，只好含泪和孔子珍重道别。
孔子周游列国的第一站选择去卫国是有理由的：第一，卫国有一位孔子非常推崇的贤人蘧伯玉；第二，当时卫国国君灵公治理卫国三十余年，社会非常安定；第三，也是最主要的，子路的岳父家在卫国，他的妻兄颜浊邹可以对孔子一行人加以照顾。
颜回提出了反对意见，他说：“卫君不能重用蘧伯玉，可见也算不得是一位贤君。再说卫夫人南子，素有丑闻，可见卫国必定教化不良。常言道：良禽择木而栖，贤臣择主而事。夫子为什么一定要去卫国呢？”
孔子说：“卫国确实有不少贤臣，例如史如这个人，极为正直。邦国有道，他是如此；邦国无道，他仍是如此。至于蘧伯玉没有出来做官，也许是未曾受到推荐的缘故。南子是宋国的公主，后来嫁到卫国，关于她的丑闻是由很多因素造成的，我们不能一口断定是因为卫国教化不良。”
卫国的疆域大概在今天河南省的北部，是当年周武王的弟弟康叔的封地，算起来，卫、鲁两国也有姻亲关系。
一行人进入卫国，在一个小镇上休息。当地一个驻守边关的小吏久慕孔子大名，想要求见。冉有认为这么一个小小的官吏，夫子大可不必见他。孔子则认为不然，于是一位瘦小的老头被引了进来。
孔子和蔼地询问他：“您今年高寿？工作繁忙吗？”
老人回答：“已经虚度七十有五。老了，不中用了。不过，因为工作的关系，倒是可以经常见到一些名人。”
他和孔子谈了很久，对孔子的学识和品德越来越敬佩。他告辞出来的时候，对前来相送的孔子的弟子说：“我今天能拜见夫子，真是三生有幸！以夫子的才能，如果局限于鲁国国内，那实在是太可惜了！老天是派夫子下凡，作为警世的木铎，让他传声布道。你们一定要好好跟着夫子，大可不必灰心。”
“木铎”是以木为舌的大铃铛，一般是铜质的。若以金属为舌，就叫“金铎”。当时，政府每逢要宣布法令时，就巡行摇铃使百姓们注意倾听。
这位守关小吏的意思是，上天有意让孔子离开鲁国，周游各地，以告诫天下人民何为正道。
弟子们听他这么一说，深感自己责任的重大，同时也坚信夫子的政治理想一定可以实现。
孔子乘坐的车子轮流由弟子们驾驭。这一天，正好冉有驾车，孔子一路观赏风景。此时已经快要接近卫国的都城。
孔子对冉有说：“看起来，这里人口众多。”
冉有答：“是啊，这里的确人口很多。人多了以后，该怎么做呢？”
孔子说：“使他们富裕。”
“富裕了以后呢？”
“就得施以教化，让他们学习礼仪，懂得做人的道理。”
这时候，性急的子路插口问道：“夫子，怎样才算是君子呢？”
孔子说：“修养自己，着重于一个‘敬’字。”
子路接着又问：“这样就够了吗？”
孔子说：“先要修养好自己，然后再去安定别人。”
“这样就可以了吗？”子路仍然追根究底地问下去。
孔子不厌其烦地告诉他说：“一定要自己修养好了，才能进一步去安定百姓。说到修养自己、安定百姓，这不是一件容易的事情，就连尧、舜恐怕还不能完全做到呢。”
谈话之间，一行人已经进入都城。
卫、鲁两个小国地理接近，先祖又同出一脉，建国已有几百年，彼此间从未发生过什么纠纷，人情、风俗也大同小异。卫国的百姓听说鲁国的孔子来了，个个拍手称庆，希望他能长住卫国，帮助卫君改革政治，让人民过上安乐的日子。
孔子及一众弟子就安顿在子路的妻兄颜浊邹家里。颜浊邹是卫国的大夫，他对孔子仰慕已久。此次孔子能住在他家，他感到莫大的光荣，故而热忱接待，谦恭有礼，丝毫不敢怠慢。
卫国的将军文子久闻孔子大名，敬重孔子是当世的圣人。他曾竭力向卫灵公推荐孔子，盛赞其学问道德。
卫灵公比孔子小了十多岁，他知道孔子是名闻天下的大学者，如今来到卫国，自然感到荣幸，但一时又不知委任他以何种官职才合适。因此，卫灵公第一次接见孔子时，只是说了一些无关紧要的话题。他问孔子在鲁国的时候，俸禄是多少。
孔子见他问出这种无关宏旨的小事，心中难免有些不悦，但仍压抑着自己的情绪答道：“俸米六万斗。”
灵公随即吩咐比照鲁国的俸禄给予孔子，但没有和孔子谈论政治上的问题，似乎也没有起用孔子的意思。
卫国有个美男子名叫弥子瑕，是灵公的宠臣，他曾派人带话给子路，大意是说，如果夫子想做官，只需他一句话，就能办到。言下之意，是要孔子买他的账，亲自去拜托他，他就可以借此自抬身价了。
孔子岂是那样的人，他当然不肯答应。不想这弥子瑕也是个小人，被孔子扫了颜面，竟恼羞成怒，怀恨在心。
卫国还有一位权臣，名叫王孙贾，他很敬佩孔子，生怕孔子会因为失望而离开卫国，心想：卫灵公若是不能重用他，不如把他收为自己的部属，还可以壮大声势。他用试探性的口吻对孔子说：“与其媚于奥，宁媚于灶。”
奥指房屋的西南角，是尊者所居的位置。灶指砖石砌成的生火做饭的设备，与奥相比，自然没有那么尊贵，却是日常生活中不可缺少的。这句话是比喻与其盼望国君的起用，不如依附权贵。也就是说，灵公不能赏识你，我可以录用你。
当时卫国的形势和鲁国的三桓专权差不多，国君权势不大，实权都掌握在权臣手中。
孔子的答复是：“不然。获罪于天，无所祷也。”这句话的意思是，不行，这是不对的。如果我这么做，就是犯了滔天大罪，向什么神明祝祷都不能获得原谅。
孔子认为自己坚持原则无可非议，可是，这么一来，他又多得罪了一个人。