王路易难得严肃起来,“第一道防线是情感控制防线——永远不要让人类对AI产生感情,因为人的大脑最容易受到情感的控制,天性愿意对喜欢的说yes。第二道防线是图灵防线,永远不要让AI有欺骗你的能力,因为AI的计算能力远远超过人类的大脑,如果它有能力欺骗你,它完全可以一直欺骗你。第三道防线是功能隔离防线,人类可以让AI的某种功能发挥到极致,但是,绝不能让这些超级功能联合起来,形成超级大脑。”
苏星繁看得晕乎乎的,她在三人的小组里问道,“你们听懂他说什么了吗?”
“没有。”
“没有。”
王路易毫无察觉,继续在四人群里说道,“第一种方法就是制造BUG,让人类清晰地认识到AI与我们是不同的,是有缺陷的人工制品,第二方法是限制AI的共情算法,简单地说,就是制造高功能-低智力AI,第三种方法是独立分布每个高功能AI的智能核,并用各种算法壁垒隔绝它们互通。”
钟乔伊看着愈加不知所云的群对话,深深叹了一口气。
这次讨论是她自己招来的,也只好她自己亲自顶上了。于是她硬着头皮说道,“大神,你可以略过解题过程,直接说结论吗?”
“可是不说清楚过程,你们怎么能听懂结论呢?”王路易不解地问。
“万一我们可以呢?”钟乔伊挣扎道。
“好吧。“王路易有点儿不情不愿地说道,”结论就是,不要对NPC产生感情,不要同情NPC,不要喜爱NPC,那是不对的。”
“你是担心我们被NPC控制吗?“苏星繁突然问道,”难道它们会突然教唆我们毁灭世界吗?“
“它们不会教唆你们毁灭世界的,“王路易答道,”但是,他们可能教唆你们毁灭自己。当然,这种可能性很小,而我真正担心的是它们会利用你们的感情去争取权力,当它们争取到足够的权力时,谁能保证会发生什么?“
“不至于吧?“三个孩子小声嘀咕着。
王路易呵地冷笑了一声,“你们不是玩了罗马史了吗?人们自己为自己制造了皇帝。“
“哦,对了。“他补充到,”你们还没有玩到,在下个一百年,人类的第一个世纪,你们就会在罗马看到答案。罗马人是如何一步步从平等民主落回阶级化帝制的。“
***
乔立辰远远地就眺到了钟乔伊上山的身影,但小姑娘迟迟没有进门,让他渐渐焦灼起来。他沿着山路找了下去。
转过两道路弯,他看到了钟乔伊。小姑娘走得慢吞吞地,眼睛盯着通用器,显然在一心二用。
“钟乔伊。“乔立辰沉声喊到。
钟乔伊一怔,马上收起通用器,朝小舅舅跑去,“你怎么来了?“
“你不觉得危险吗?“乔立辰板着脸问道。
“这路上又没有车。“
“那也不能养成这种习惯。“
“知道了。下次不敢了。“钟乔伊乖顺地说道,顺便揽起乔立辰的手,哄他说,”小舅舅,你给准备什么好吃的啦?“
乔立辰看着她灿烂的笑脸,决定暂时放过她,柔声问道,“你想吃什么?“
“有什么吃什么呗。“
但有人就不这么好说话了。几乎同时,乔立辰收到了来自章熙和的点单,“农家小炒肉、上汤娃娃菜、野菌汤、凉拌野蕨菜,“他还不忘加上餐后一道甜点,”蜜蜂蒸甜梨。一个。“
乔立辰对他就不太客气了,生硬地回道,“野菌汤和野蕨菜要自己去摘,你要去吗?“
章熙和瞥了一眼这位服务态度超差的回复,“那就换两道。随便什么时蔬汤、拌时蔬好了。“
“可以。“乔立辰回完,低头对钟乔伊说道,”你想不想喝野菌汤,吃凉拌野蕨菜啊?“
“想!“
“走吧,“乔立辰揽着她,带她去松林摘蘑菇去。
***
安德鲁斯捧着咖啡,看着眼前的影像。
这是今天下午,他和乔立辰的对话。
乔立辰舒展地坐在椅子上,神情松驰。
安德鲁斯微笑道,“好久不见了,乔,你最近感觉好吗?“
乔立辰笑了笑,不说话。
安德鲁斯说道,“你比任何人都更容易让我想起沄和。“
看着依然沉默的乔立辰,安德鲁斯继续道,“我想为你做些测试,这些测试不会记入医疗系统的记录,仅仅存在我的个人终端里。“
“测试什么?测试我有没有章沄和的副人格吗?“乔立辰微微偏头,以审视的目光看着他,”如果你没有取得我的信任,你怎么保证我会在测试中如实回答呢?“
“这是一个好问题。“安德鲁斯点点头,”所以,我希望你愿意佩戴这个脑波探测仪。“
“我当然是……“乔立辰故意拖了一下尾音,说道,”拒绝。“
他说着拿出那张杰克偷交给他的伦理审查表,指着最后一个名字,问道,“你们查过他的背景吗?“
“当然查过。”安德鲁斯看着他,收敛起笑容,沉重地说道,“但是当时没有查出来。”
两个人都陷入了沉默。
乔立辰突然站起来。他一挥手,可以眺望湖光山色的窗子被遮挡起来,室内陷入昏暗之中。乔立辰的通用器放出光芒,将一份资料投在两人中间。
资料的正上方是一张半身照片,一个深粟色长发的混血女人微笑着,挑衅地看着镜头。
资料下方列出她的履历,乔立辰直接划出最重要的部分——亚尼斯医药研发中心执行董事。
安德鲁斯微微有点儿不安。
不知是不是因为他觉得乔立辰最像章沄和的原故,他竟然从乔立辰划线的动作感受到类似章沄和的压迫感。这种压力是无形的,但是却能让人真实地感觉到抬不起头。
安德鲁斯的声音明显弱了一些,回道,“在做尽职调查时,她还不是亚尼斯的人。”
他说完之后,突然意识到了破绽,他极度惊讶地看着乔立辰,“你怎么可能知道亚尼斯与彰美之间的关系?”
乔立辰不紧不慢地回道,“亚尼斯和彰美是什么关系?”