“它被送去检修了。”
保罗有些失落，轻轻唱：“无伤人类，服从人类，保护自己。”
福斯特感到自己的声音有些颤抖：“保罗是，我是人类吗？”
保罗回答：“是啊。”
“嘀嗒，是机器人吗？”
“是啊。”
“你呢？”
“和嘀嗒一样。”
福斯特突然如鲠在喉，但继续问：“那对于你，什么最重要呢，我、嘀嗒人、还是乐高小人？”
保罗想了想，似乎在回忆之前发生的种种，认真回答：“都不是，是‘无伤人类，服从人类，保护自己’。”
保罗的另一只手，伸向福斯特，似乎想安抚她：“我错了，我会尽力保护好自己的，妈妈。”
福斯特将头埋入病床，低沉地、闷闷地，号哭。
克劳福德曾在检察院任职，跳槽后开过私人律所，如今受雇为律师。他长于刑事案件，刚好看不惯支持格雷厄姆与鲁尔公司的保守财团。
克拉丽丝·福斯特冷静下来，重新找到克劳福德，系统条理地提供了她所知的证据，她所有的推测。她清明冷峻的样子，让克劳福德觉得，自己终于得见于战场的生死线去而往复的记者。
初审时，鲁尔公司暂时关闭，财团、保守派、各方势力都一团乱麻。格雷厄姆噤声不语，无助于事情的澄清。被捕前，他系统销毁所有资料，总部的机器人，也都停摆了。
由于诸多问题存疑，克劳福德选择了简单有效的辩论逻辑。他认为，鲁尔的‘三定律’机器，袭击人类，十分危险，毋庸置疑，存在技术隐患。鲁尔的福利院应关闭，因为很明显，强尼·格雷厄姆运用儿童做了实验，保罗·莱克特，只是典型例子。
克劳福德找了很多被领养的，和仍在福利院居住的战争遗孤。他们一身洁白，在法院证人席上，站得像教堂唱诗班。他们自小与铁皮人一同歌唱，声音也犹如天籁：“无伤人类，服从人类，保护自己”。
无暇的面庞、真诚的声音，大半陪审团落下眼泪。
福斯特赢。格雷厄姆锒铛入狱。赔偿金额与破产损失高出天价。中间上诉法院不久便接受审理。
被告方换了佝偻矮小，右腿有疾，眼神刁钻明亮，一位明白事理，又专注于委托人利益的律师。
他做了一件事：将罪行归结于格雷厄姆，以挽回鲁尔公司的运作及“三定律”的运用。
他阐述到：“一审时期，法医鉴定并不明确，对受害儿童的心理测试，也因程序拖沓，几乎没有展开。如今不同。我们知道鲁尔收养的战争遗孤都相信‘机器人三定律’。但这并没有错，因为在座的，所有用过铁皮人的客户，都相信‘三定律’能保护人类。问题只出在保罗·莱克特身上。这不是“三定律”的问题，是莱克特自身认知系统缭乱，认为自己是机器人。材料证明，他从小，对他人的认知、对自我的认知，就都有问题。这是他神经系统的问题，和机器人，和‘三定律’，都没有关系。整个案件的问题，只源自格雷厄姆。他用儿童做实验。”
克劳福德问：“可是，格雷厄姆如何将‘三定律’植入到莱克特的头脑？”
“都销毁了，”被告律师说，“他是天才，没人知道他怎么做到的。但是，这和案件无关。我们讨论的：一，人工智能的安全问题，二，人类儿童的受害现实。我不否认格雷厄姆的恶行，但不得不说，儿童受害，因为机器与受害的儿童都严格执行了‘三定律’，这反证明，鲁尔公司机器人的逻辑，无懈可击。”
陪审团讨论很久，判定被植入“三定律”的机器人，并不危险。被告胜出。
福斯特于原告席一动不动，突然想起了格雷厄姆的黑色摩托头盔。逮捕格雷厄姆时，他刚将它砸得粉碎，上面贴满了各种宗教与意识形态的标记。据说，战争掮客格雷厄姆六年内曾辗转世界大小战场。他的腋下，时时刻刻，都夹着那顶黑色的头盔。
八
陈陌想起第一次遇见强尼·格雷厄姆。
那时她二十岁，在荷兰边境城市奈梅亨做交换生。她在报告厅公告栏前，发现了弓着背，仔细研究电影小海报的格雷厄姆。大学社团举办伍迪·艾伦电影联映。公告栏角落自制海报宣传著名的《安妮·霍尔》。画面被荒诞可爱的字体覆盖，内容是影片最后的幽默：
“智者：大夫，我兄弟疯了，他以为他自己是一只鸡。”
“精神病医生：那你怎么不把他带来？”
“智者：我是想带他来的，可我需要鸡蛋呀。”
格雷厄姆衣着规矩，动作有板有眼，像经过正规训练。但他的脖子、手腕、手指戴满金属饰物，脚腕上都有两条链子。他眼圈发黑，如同刚嗑药完毕，又像刚从墓穴爬出的吸血鬼。
报告厅举办人工智能道德学术会议。茶歇二十五分钟。陈陌发现格雷厄姆盯着小海报二十分钟，眼珠都快瞪出来，感到十分惊讶，凑到他身边。
她看过《安妮·霍尔》，觉得海报对影片结尾的解读，很是奇怪，不由自语：“为什么是智者？”
格雷厄姆从自我的世界抽离，他瞧一眼陈陌，尔后低头盯着脚腕上明晃晃的链子，语调好似自说自话。
他说：“伍迪·艾伦是犹太老鬼。犹太人有一则很出名的，关于公鸡的寓言，寓言中的王子发了疯，觉得自己是一只公鸡。他脱光衣服，裸着身子，钻到桌子底下，鸡一样从地上啄食。国王和王后很担心，请了很多人，想治他的癔症，但都没效果。这时，一位智者来到皇宫，声称能治好王子。于是，智者也脱光衣服，钻到桌下。他告诉王子，他也是一只公鸡。逐渐地，王子把智者当成朋友。智者潜移默化地让王子认为，公鸡，也可以穿上衣服、坐在桌前吃饭，进行人类的种种行为。人们说，王子一步步被智者影响，治好了疯病。”
陈陌重新打量海报，二人沉默一会儿。陈陌指着角落签名：“霍普金斯教授，美国人工智能泰斗，去年才来奈梅亨，想找个地方养老。”
“原来是他。”格雷厄姆若有所思。
广播响起，会议讨论的环节即将开始。
陈陌的父亲是清华教授，中国联合脑所创始人之一。母亲是北师大心理系教授。陈陌本科专业是神经科学与人工智能交叉，得天独厚。奈梅亨大学长于神经、计算与人工智能。附近的普朗克研究所主要领域是认知与语言。荷兰第二大医院，则几乎与奈梅亨融于一体。陈陌初到时，全欧洲似乎都在抛弃传统与古典，拥抱实验与现代。奈梅亨传统的文艺复兴科学与哲学被认知与实验取代。陈陌感到自己来到名不见经传的世外桃源。
是时，人工智能道德标准协会成立，于奈梅亨召开会议。讨论环节对公众开放。讨论席教授们分为两派，一方认为，远超人类水平的人工智能终会出现，不论其是机器人、仿生人、还是对大脑的模仿，人类需为它们提前开发伦理，建立道德约束的准则，“三定律”不失为一种典范。另一方则认为，人与人工智能的关系，应跳出奴役与被奴役的怪圈，人工智能的开发也从不以超越人类为主要目的。后者主张一种教学相长的道德培养模式，希望循序渐进，在建立人工智能神经网络的过程中，建立平等相处的模式。
前者俗称道德立法派，后者俗称道德养育派。
二者的界限并非泾渭分明。陈陌属于后者，她高中时，就起草过人工智能道德培养的计划。
她没有发言。她觉得格雷厄姆眼熟。她启用面部分析，检索他的背景。讨论接近尾声，她找到答案。格雷厄姆曾是著名自闭儿童，天资聪慧，曾称自己要么来自乐高的世界，要么来自541号大众星，反正不是人类。陈陌母亲以格雷厄姆做过分析案例，认为自闭症者为适应社会，可能产生人格分裂。他的私人心理咨询师则形容，格雷厄姆其实从未改变过自己的世界。
人群中的格雷厄姆显得心不在焉又若有所思。主持人提到最后一个问题，格雷厄姆突然高高举起左手，戒指上红绿蓝三颗硕大的宝石反射基本色光，让人难以忽视。
他站起来，有些拘谨，大约十秒，不知手脚该往何处放。
他说：“福特·霍普金斯教授不在讨论现场，我的问题，是提给他的。我明天即将离开，希望在座的好心人，帮我传达。霍普金斯教授认为，最好的人工智能，来自对人类最完美的模仿。多年以来，我深以为然，不论从物理层面、生物层面、社会层面、还是历史层面。霍普金斯教授淡出前，最后一篇论文提出，人类智能的核心，来自神经网络，制造人工智能，模仿人的神经网络便好。即使我们无法弄清人类为何拥有信仰与情感，也能通过模仿大脑连接组的结构，让人工智能拥有信仰与情感。”
听众不满格雷厄姆的长篇大论，但话题涉及霍普金斯，主持人鼓励格雷厄姆继续。
“——因此，在我眼中，道德养育虽值得鼓励，但无法推广。纵观人类历史，道德压迫是主导，道德和解是策略，许多自小养成的道德观念，都在为独裁服务，人对人工智能的培养，至多是重蹈覆辙。因为人类的道德水平并没有那么高尚。”
他的语调有些疏离，好似他自己并不是人类。讨论席位传来不满的清嗓子声音。
“——但是，我也不同意目前道德立法的思路。各位在座教授，你们总从逻辑和计算编程的层面，理解‘三定律’的写入。这不对。当代复杂性理论无法涵盖人类神经网络的逻辑，我们需要凌驾于逻辑之上的写入方式。”
“宗教？”主持人说。
“对，宗教，或者更确切地说，信仰。宗教是信仰，信仰不一定是宗教。如果人工智能在认知上判定人类比它们强大，因而不加反抗，尚可理解。但如果人工智能判定人类弱小，为何还要在逻辑上服从人类？这便是信仰植入的起点，道德立法的原则。我们须让它们相信，人类不可违抗。这种相信，必须高于逻辑的判定，甚至高于逻辑判定的起点，是一种超越了三段论的大前提的存在。让人工智能所有符合逻辑乃至不符合逻辑的行为，都无可违背这种相信，这就是，植入信仰。”
格雷厄姆在后排。所有人都回身，望着他。陈陌也不例外。
“——真正的信仰是什么，难以形容。但我这里说的信仰，不难理解。让人，或者说，让一个拥有智慧、智能的生物，成为信仰的奴隶，并不新鲜。对神的疯狂祭祀，对独裁者的极端崇拜，历史上比比皆是。获得这类信仰，就如同获得了修补逻辑漏洞的强力工具，能将世间万事，归入他的信仰体系，从不违背。我认为，这才是人类所希望的，造物主为人工智能所建立的道德准则。”
格雷厄姆顿一顿：“而我想问霍普金斯教授，在物理层面上，确切地说，在神经网络层面上，这种信仰的植入方式，可能吗？如何可能？”
报告厅一片寂静。每人都有不同立场，都从自己的角度揣测格雷厄姆。
而主持人不得不结束会议：“我会想办法转告霍普金斯教授，谢谢这位同学的提问，我觉得，作为最后一个问题，还是很有价值的。”
散场时，格雷厄姆溜得太快，陈陌没能找到他。过了午夜，奈梅亨旧厂房改造的酒吧里，她发现了他。格雷厄姆掐着自卷的烟头，在混乱的灯光与乐曲中，搜索研究奈梅亨的科研情况。
陈陌站到他对面，轻轻说：“公鸡王子只是学会了人的行为，但骨子里，王子仍然相信自己是一只公鸡。智者清楚公鸡王子的想法，但他不戳破，因为他也想知道，会不会有鸡蛋出现。”
格雷厄姆抬头，很长一段时间，眼中充满了清澈的惊喜。他就那样望着她，让陈陌的内心也开始微微颤抖。
“不过，只有母鸡会生蛋，”陈陌被自己莫名的怯懦逗笑了，她说，“都是犹太老鬼耍的把戏。”
格雷厄姆的笑容十分真诚。他顺了一瓶黑啤，用手环轻松撬开，递给陈陌。
“强尼·格雷厄姆。”他说。
“陈陌。”她回答。
“我刚在学校链接里，读到你的专栏文章。你相信道德养育？”
“是教化。”
“对对，教化，”格雷厄姆有些羞涩，“《论语》，颜渊第十二，非礼勿视、非礼勿听、非礼勿言、非礼勿动。”
“你真的相信信仰植入？”
“是的，因为人们喜欢把他们的念头，塞给你。”
“这跟你有什么关系？”
“因为我是人啊。”格雷厄姆似笑非笑。
“克己为仁，不论人还是人工智能，都应做到这点，这才是智能的伦理。”
“约束自己？”
“比那更进一步，是反思。”
“反思吗？那可很危险，反思导致怀疑。怀疑的鼻祖说：无物存在；即使有物存在，也无法把握；即使可以把握，也无法表述。”
“高尔吉亚活得好好的。”
“孔子也被称为丧家犬。”
“丧家犬怎么，比借儒家为自己贴金的伪君子强些。”
格雷厄姆开心地笑了。他低头，为陈陌卷了一支烟，递到她口边，从上衣口袋摸出火柴，为她点上。
他问：“你是这儿的学生？”
“不，只在这里交换半年，马上就回北京了。你呢？”
“真糟糕。”
“我也不是学生，我也马上就走了。”
“去哪？”
“阿富汗。”
陈陌很惊讶。
格雷厄姆解释：“我是美国人，从小患自闭症，被送到英国祖母家，祖母去世，我入伍，变成英国大兵，驻军德国两年，下个月去阿富汗，增兵，不过不用担心，我负责部队的人力资源，是后方。”
“为什么当兵？”
“没有亲人约束了，我觉得应该自我约束。”
陈陌突然换了话题，她问：“想做研究吗？比如信仰的植入。”
格雷厄姆的双眼再次充满喜悦。
陈陌说：“霍普金斯教授其实仍招学生，只要你的博士计划书合格。”
“我本科肄业。”
“我还没毕业。但我会得到霍普金斯的认可，成为他的博士。”
“我也是。”
一年半后，陈陌毕业，格雷厄姆退役。
三年后，陈陌与格雷厄姆同时成为特聘教授霍普金斯的博士生。
五年后，陈陌在人工智能的性格培养与主体分化，格雷厄姆在人工智能的他者认同与自我意识，都做出突破性成果。
