本节核心论点：人和机器的目标、行动和感知有着很大的不同，许多人甚至否认机器具有目标。可是当机器越来越聪明时，会具有一些自己所希望完成的独特的目标。
人类有许多独特的能力不能被机器所复制，至少现在还不能。当我们将自动化和智能引入我们现在所使用的机器时，我们需要保持谦逊，并且要意识到问题和可能导致失败的潜在因素。同时，我们也需要认识到人类和机器在工作方式上的巨大差异。
现在，在日用品中存在许多“智能系统”。我们有智能洗衣机、洗碗机、机器人真空吸尘器、汽车、电脑、电话和电脑游戏。但是这些系统真的是智能的吗？不，他们是应答型的。这些机器的智能全都在设计团队的头脑当中，他们精心地尝试着预测所有可能的情况，并将合适的反应通过程序输入到系统当中。
换句话说，这些设计团队所做的就像读心术一样，试图穷尽未来所有可能的情形，以及人如何在每种情形下做出反应。总的来说，这些应答型的系统是有价值和有用的，但是它们常常会失败。
为什么会失败？因为这些系统很少能够直接测量所关注的目标：它们仅仅能够测量那些其传感器能够探测到的事物。人类具有一套难以置信的丰富的感知系统，能够持续评估外界和我们自身的状态。我们拥有数千万专门的神经细胞来探测光线、声音、触觉、味觉、平衡、温度、压力和疼痛，以及内部的传感器来感知肌肉和身体的位置。另外，针对这个世界以及我们作用于其上的行为，我们还建立起了复杂的心理表象，以及建立在很长的交互历史基础之上的精确预期。这一切对机器来说还很遥远。
机器的传感器不仅仅是有限的，而且它们同人类测量的事物也有所不同。心理感知和实际的感觉并不相同。机器能够探测光的频率、红外线和无线电波，而人类却不能。机器能够在人类的感知范围之外侦测声音的频率，它们对于其他的许多变量以及行为系统来说也是如此。我们人类具有柔韧的肌肉和肢体，灵巧的手指和脚趾。而机器则欠缺灵活性，但是却也更具有力量。
最后，人和机器的目标有着很大的不同。实际上，许多人甚至否认机器具有目标。可是，当机器越来越聪明、越来越智能时，它们会具有一些自己所希望完成的独特的目标，以评估情形并对一系列行为做出决策。至于情感，人类的情感是我们的行为和对外界进行解析的中心。而机器则不存在情感，甚至当机器开始具备起码的情感时，它们也会同人类的情感有着巨大差别。