本节核心论点：现在，自动的智能设备还得受控于人类：最糟的情况下，这可能会导致冲突；最佳的情况下，人和机器可以构成共生系统，运转自如。
现在，我们来想像一下这样一个情景：在午夜，我无法入睡。我悄悄地从床上起来，小心翼翼的，免得吵醒我妻子，我在想，既然我睡不着了，我还不如起来干点活儿。就在这个时候，房间发现了我的一举一动，高兴地对我说道：“早上好！”，接着它打开灯，打开收音机的新闻台。这些噪声吵醒了我妻子，她嘟囔着说：“你这么早叫醒我干什么啊？”
在这个情景中，房间的行为时好时坏，这又当如何解释呢？我是不是应该按照一天中的时间来安排房间的行为呢？不行，因为我和妻子有的时候要赶早航班，因此会起床很早；而且有的时候我可能会和远在印度的同事进行电话会议。房间要想知道如何才能做出适当的反应，它必须得知道当时的环境和场合，以及行动背后的推理。我是不是自己有意识地醒来的？我的妻子是不是还想再继续睡？我真的想打开收音机和煮咖啡吗？我的房间要想知道我醒来的原因，它必须知道我的意图和动机，但这就要求房间能够和我进行一定层次的有效沟通，然而，这一点在今天或者不久的将来恐怕难以实现。现在，自动的智能设备还得受控于人类。最糟的情况下，这可能会导致冲突；最佳的情况下，人和机器可以构成共生系统，运转自如。这里，我们可以认为是人类让机器变得有智慧。
科学家们试图打消我们的疑虑，他们说，所有技术刚开始出现的时候都是弱小低效的，但最终它们会克服各种问题，最后变得安全可靠。在一定程度上，这种说法是正确的。蒸汽机和汽轮船以前还出现过爆炸的情况；但现在基本上不会再爆炸了。飞机刚出现的时候，也会经常坠毁；但今天几乎不再发生。还记得前面我们提到的Jim的问题吗，Jim驾驶的汽车巡航系统在不适宜的道路上依然要恢复到高速行驶状态。我确信，在未来的设计中，可以把速度控制和定位系统结合起来，这样就可以避免这个问题了，或者也可以研发出一套系统，让公路自身可以发送给汽车限速的信息（这样，就不可能超速了），或者让车子根据路况、弯曲率、湿滑情况，以及当时的车流和人流情况，来自行决定安全的车速。
我作为一名技术专家，坚信科学和技术有益于生活，可以让生活变得更加丰富多彩。不过，这个问题我们暂时放一放。目前，我们正面临着新一代的智能和自动的机器，它们在很多场合下可以取代我们。在很多情况下，它们让我们的生活更加高效率、更加有趣、也更安全。但在另一些情况下，它们也阻挠了我们，妨碍了我们，甚至增加了危险程度。人类第一次拥有了试图在社会层面和人互动的机器。
我们在技术上面对的这些困难是客观存在的。我们无法沿用传统的途径来战胜这些困难。我们需要一种更加稳静、更加可靠、更加人性化的方法。我们需要的是强化，而不是一味地追求自动化。
