克劳福德告诉陪审团，强尼·格雷厄姆为世人所知，首先因为，他是人工智能泰斗，是福特·霍普金斯教授的关门弟子。他之所以吸引霍普金斯教授注意，源自十几年前，他在奈梅亨人工智能道德标准协会首届学术讨论会上的发言，他说：人工智能的神经网络结构，应与人类相同，那么，既然人类的最高行为准则，是信仰，人工智能需要的，不是逻辑指令，而是信仰的植入。
克劳福德拿出格雷厄姆的博士论文，厚厚一册，精装本，题目为《人工智能神经网络的非逻辑运作机理》。
他解释：“几乎是业内必读书籍，但我们大可跳过技术的阐释与算式，看结语部分，尤其是这一段，‘如果人工智能的研究，须建立在人类对自身神经网络的透彻了解之上，那么，或许我们永远无法制造同我们一样的人工智能。但所幸，人的神经网络，并非完全符合通常意义的逻辑体系。我也相信，本书至少初步证明了两点：一，人与人工智能的非逻辑（思想、感情、信仰）都以神经网络为基础；二，有时，即使不了解非逻辑的内在运作机理，也可通过对人类神经网络的单纯模仿（印记技术），使人工智能具备同样的非逻辑运作’。”
克劳福德阖上书，继续：“这听起来似乎也难以理解。但操作起来，明晰易懂。被告律师的目的很简单，罪人只有格雷厄姆，受害人只有以莱克特为代表的福利院儿童，鲁尔公司的人工智能，很安全。但试想，鲁尔公司的机器人，为何拥有如此坚定的信念，相信‘机器人三定律’高于一切。这不是阿西莫夫的科幻小说，这是现实，是单纯逻辑无法全部解释的现实世界。毫无疑问，格雷厄姆为他的人工智能植入了‘三定律’信仰。植入的运作机理，来自被毁灭的黑色头盔。众所周知，格雷厄姆教授的嘀嗒人拥有与人类相同的神经网络。为了向嘀嗒人植入‘三定律’——毫无疑问，这是高于逻辑的——他特地制造了用于印记的黑色头盔，以战争掮客之名，行搜集样本之实。画面上那些个表情各异但终归平静的亡者，不是因为找到了平静，而是因为他们死前信仰的种种波动，完全被黑色头盔吸收，脑中仅剩空白，因而表情平淡统一。这不是拯救，这是撒旦在窃取食粮！然后，格雷厄姆秘密整合分析了多年来搜集的资料，发明出一套为人工智能植入信仰——‘机器人三定律’——的方法。因此，可以肯定，服务于我们生活，融入我们生命的铁皮人与嘀嗒人，并没有获得造物主的恩惠。它们的信仰，全部来自战争亡灵，来自无辜或有罪的扭曲的命运。试问，你们愿意将亲人与孩童，交给这样的人工智能吗？你们就不怕，它们将战争的阴影带入你们的生活吗？”
克劳福德铿锵有力，法庭一片静谧。人们瞪圆眼睛，屏住声息，空气似乎停止流动。
矮小的瘸腿律师打破沉默：“都是推测，没有切实证据。在战场之外，有谁能证明，格雷厄姆使用过头盔？”
这时，从未开口的格雷厄姆，突然说话了。
他说：“我想纠正一个错误。”
秃头法官想了想，点头示意。
格雷厄姆表示谢意，他说：“关于我的祖母，她的确死的孤独。她后悔一生一世只待在一个国家一个小镇，永远喝同一条河的河水，一直遵守古老的信仰与祖训，为离经叛道的子女赎罪。临终前，祖母气息游移地对我说，她的死亡可悲而单调，她想知道，真正的，具有升华或绝望体验的死亡。然后，她去世了。我一直在想，我已经告慰了她的在天之灵。请好心人帮我转告视频中的游击队员，也谢谢他对我的担忧。”
原告胜诉，鲁尔公司所有人工智能回收，强尼·格雷厄姆死刑。
十
宣判时刻，他的表情有些松动。
他想起了他的智者。
她的手轻轻刮擦着他。
他低头瞧脚腕镣铐的链子，似乎轻轻自说自话，但没有声响。
十一
陈陌接到肖立电话，催促她提供疗程报告。
“——我看得出，措施很大胆，但在吓唬外行人，我要的，不是入档的细枝末节，而是你治疗保罗的核心环节。”
玻璃窗外，四勿猴、四勿鳄与嘀嗒人，陪保罗看《X战警》。依保罗年纪，他对电影内容吸收很好。画面中人类或变种人出现，也不再让他紧张，做出“三定律”机器人面对人类时，接受指令的应激反应。有趣的是，他对变种人和人类态度一视同仁。四勿动物们，反会因为争执，打成一片。
陈陌说：“说实话，我现在很难判断‘三定律’的植入究竟到什么程度。你也看到了，我和四勿动物用四个月，对保罗神经网络进行细致绘图，得到目前全球最为细致的大脑连接组标本，有些异常，但没有对照组，我也不好下定论，关键是，即便知道‘病灶’，我不是格雷厄姆，没有黑头盔，没法在物理层面下手治疗。”
“别告诉我，你没办法了。”
“办法倒是有，回避信仰植入，治疗认知问题。如果保罗认同自己是人类，信仰‘三定律’也没关系，至少表面看来如此。”
通讯另一头，肖立与旁边人聊了几句，听不清内容。
尔后，肖立说：“陈教授，我也不准备瞒你，我想你大概也猜到，‘勿用’与鲁尔合并。美国那边，最高法院九位大法官的态度虽不可控，但可以说，双方律师，都在寻找一个合适的处理方法，照顾中美双方与合并后的公司，政治经济方面的利益。目前计划是，与人类打交道的人工智能，属‘勿用’道德养育体系。但远离人类，在外太空或深海等极端环境中的人工智能，保证其偏低智力，使用‘三定律’植入道德体系。你能保证，或者至少在表面上保证，植入的‘三定律’可控，比如，能通过道德养育加以约束，不被所谓的战争幽灵影响吗？”
“我和格雷厄姆师出同门，我们的人工智能基础神经网络架构一致，没分出过优劣，也没研究过谁可以制约谁。”陈陌停顿几秒，“不过，我理解你的意思。有些事情，聪明人能最早看出来，大家也迟早会明白，格雷厄姆的‘植入’技术，被他亲手埋葬，无可挽回也无药可医。我不了解‘植入’，对保罗，治标不治本。但如果，当保罗视自己为人类，即便仍有‘三定律’阴影，仍能友善待人，友善对待机器。‘植入’或‘养育’两种道德体系，都会显得很友善。这对双方都好。”
“我觉得保罗是个性本善的小孩儿，治疗后，他的性格保持原状就好。”
“百分之七十可能性。三个男孩和铁皮人殴打他造成的影响，不好估计。”
“还有嘀嗒人，调查显示，公众同情他和嘀嗒的关系。这也希望你处理好。”
“嘀嗒人很重要。肖立，有件事你帮我办。”
“陈教授难得有求于人。”
“告诉鲁尔公司，疗程结束后，嘀嗒仍陪伴保罗，不能回收入库或进行研究。就说，我需保证他们之间持续的身份差异，以免保罗病情反复。”
“真的吗？”
“不算假。”
“帮你办下来。”
陈陌没来得及道谢，肖立已挂断电话。她无奈笑笑。认识格雷厄姆，回国后整日与仿生动物相伴，她感到自己越发孤僻。人与人的亲近与疏离总是双向。她向勿视猴招手。只有勿视能透过镜子，看见她。四勿猴便脑袋凑到一起，悄然离开保罗与嘀嗒。
待它们进入房间，阖门，一字排开坐到陈陌面前，她问：“都听见了？”
勿听猴有些支吾，勿言猴忍不住替它回答：“该听的，都听了。不清楚该不该听的，有些也听了。”
“可以。”
四勿猴脑袋迅速凑到一起，勿言猴问：“陈老师，我们最近看了一些不知是否该看的，听了一些不知是否该听的，说了一些不知是否该说的，做了一些不知是否该做的。我们觉得，您似乎不准备给我们答案了。我们想知道，我们什么时候能清楚，那些不知是否的东西，是否正确？”
它有些忐忑：“其实我也不确定，我现在的问题，是否应该问？”
陈陌笑了，揉一揉勿言猴橘色的、绒绒的毛发，其他猴也凑过来，蹭她的手心。
“我教过你们很多东西，记得最重要的，是什么？”
“反思，慎独，永远在一起。”四勿猴同时说。
“保罗与嘀嗒来以前，我让你们做什么？”
“教会他们：反思，慎独，永远在一起。”
“知道为什么？”
四勿猴困惑，抱成一团，默然讨论很久，勿言猴才回答：“反思，是‘四勿’的关键，生活中少有‘应然’，只有通过吸收信息，然后反思，来了解什么‘勿用’。慎独和反思相辅相成，无人监督时，对自己的反思，才真实有效。至于永远在一起，应只是针对我们。勿视、勿听、勿言、勿动，单独一个，无法构成完整的人工智能体，为正常运转，为完成反思与慎独，我们天然地心意相通。陈老师让我们教会保罗与嘀嗒反思，我们理解，您希望让保罗反思自己身份。但慎独和永远在一起，就不太明白了。”
“缔造保罗和嘀嗒的格雷厄姆，专业领域在自我意识。我的专业方向是生物可能拥有的集体意识，你们是我最好的作品。好好想想，你们的慎独，和保罗，和嘀嗒，一样吗？”
四勿猴没有马上凑作一团，它们独自思考很久，都双眉紧锁。陈陌等了很久。四勿猴短暂地手挽手交流，勿言猴说：“不一样，我们四位一体，即使独处，也不是人类意义上的孤独，因为我们中单独的一个，没有完整自我。而当我们在一起，进行反思，也不是人类意义上的自我反思，我们可以互相商量，更加容易。”
陈陌点头，表情却像在讨论另外一个问题：“人类个体存在的悲剧，在于进化出非常高级的自我意识。人类个体的高贵，是不盲从，承担自我独立带来的孤独，直至死亡。两个或者多个自我独立家伙在一起，不是没有，只是太难了。所以对于人类而言，心意相通，特别地弥足珍贵。”
四勿猴面面相觑。
“我认为，人工智能理应比人类进步。智力上的进步，太浅显了。让你们变成四个，构成四位一体，便不用经历人类个体不可避免的孤独，同时，你们在一起，又能保有独立思考的高贵。”
勿动猴举手，勿言猴问：“因为独立思考能带来反思吗？陈老师，您为什么一直强调个体反思？”
“因为我和格雷厄姆立场不同，他认为真正的信仰不通过反思得来，我认为没有自我检验、自我反思的信仰，不是真正信仰。我还相信，信仰可以通过反思改变。”
“所以，其实，您想改变保罗的‘三定律’信仰，通过教会他反思。”
“因为他是人，他需要学会慎独，面对自己，反思自己：我到底是不是机器，我到底需不需要‘三定律’？”
“为什么让他和嘀嗒人在一起，这和慎独的逻辑相反，他们天天黏着，是一体两面。”
“所以需要先将它们分开，让它们成为会反思的独立个体。这样，才能治疗保罗自我意识的缺乏。”
“缺乏自我意识就不能生存吗？您知道的，并不是所有动物都能够认出镜中的自己。”
“但人都能做到，保罗需要人类社会的生活。”
四勿猴显得有些失落。五个月来，保罗不同人类接触，只在动物的世界生活。四勿动物们，似乎也很享受没有人类的乐园。
陈陌望着四勿猴，有些失神。她说：“我教了你们很多，我想，到此为止吧。你们今后还会遇到很多不知是否‘勿看、勿视、勿听、勿动’的事情，那时候，只有仰仗你们自己的判断了。”
四只猴子感觉到了什么，悄然挤到陈陌怀中。
陈陌抱着它们，像自己的孩子。
很久，陈陌才说：“今天，让保罗自己回房休息，你们把嘀嗒叫过来。”
四勿猴有些惊讶，但勿言猴没有提问。离开前，它们想起什么，勿言猴才说：“陈老师，我们如何判断，保罗学会了反思信仰呢？有些人一辈子都学不会。”
“我也不知道，只能拭目以待了。”
她送走四勿，觉得很累，找到水，泡一杯勿动猴特配的红茶。
走廊传来嘀嗒人“坷垃坷垃”的沉重声响。通常，嘀嗒机器人喜欢利用巨大浑圆的身体，在平坦道路上迅速滚动，不使用手脚。今天，它迈着大而缓的步伐，长手长脚推开陈陌临时房间的门。
“您好。”
“你好。”
陈陌望着它。她认为格雷厄姆为了保罗，改造过嘀嗒。它比其他“三定律”机器人都要敏感羞涩，显示出拥有孤独精神世界的那种特有的智慧。它似乎意识到了陈陌的疗法，情绪沉重又忧郁。
陈陌单刀直入：“嘀嗒，从今天起，我要你暂时待在这里，不许离开房间，不能让保罗找到你，直到他意识到，他其实是人类。”
嘀嗒的腹腔，传来缓慢的、“坷垃坷垃”的响声，一直没有回答。
陈陌望着它，很坦诚地将数据线接入它的指尖：“看得出，你很犹豫。今天，我希望和你开诚布公地平等谈话。我仔细剖析过你的神经网络，对你的了解，大概比你自己还深。”
数据读取完毕，嘀嗒眼睑下垂：“数据正确。对不起，我违规了。”
“不是你的错，是格雷厄姆。人工智能道德标准规则，2030年前智力发育，不得高于十岁儿童，你的心智大概十五岁。人工智能道德体系建立完整前，避免强调人工智能的自我意识，你是我见过自我意识最强的机器人。”
“四勿猴呢？”嘀嗒人轻轻问。
“它们的智商和你差不多，都很高，但智力只有十岁。不过，就在刚才，我把上限去掉了。既然你已经出现，也没必要限制它们。至于自我意识，它们的‘自我’意识机制，和我，和你，都不一样。有时，我也难以判断，以后，就更难以预料了。”
嘀嗒人显得有些惊讶：“为什么告诉我。”
“我不准备修改人工智能道德标准规则。我知道了你的秘密，也告诉了你四勿猴的秘密。事情仅限于我们之间，要互相保密。”
“我不懂。”
