“首先,结案之后,鲁尔公司才找到我,所以,撇开道义,我并不算背叛你。其次,你很清楚,除了‘勿用’,没地方能治好保罗,所以直到今天,你才拆穿我。最后,作为记者,你应该很清楚,这类大案背后的处理方式,往往是殊途同归。”
福斯特笑笑:“所以,其实你也没料到最高法院会司法审查。大法官们似乎也看不惯鲁尔和‘勿用’的苟合。”
克劳福德挠头:“所以,我们算恢复雇佣关系了。重新坦诚相待吧。”
福斯特变得严肃:“你在担心什么?”
“我重新看了一遍格雷厄姆案期间,大法官们的发言。苏特大法官曾暗示过,格雷厄姆案重点其实不在人工智能,应就人权方面,进行更多修正。”
“近十年来关于人工智能的法律和行政措施如雨后春笋,你拿不准最高法院会判哪一条违宪。”
“应该说,哪一条违宪,都会产生蝴蝶效应般的利益波动。”
“你想转移话题?”
克劳福德面色坦然:“我不是无立场的人。格雷厄姆案让我在人工智能方面,确立地位,这同我的党派利益,同鲁尔或‘勿用’的利益,都无关。我是人工智能案件的顶级律师,只要人工智能仍很重要,人工智能仍有问题,我就有饭吃,这是我的个人立场。而你的保罗,不论是‘三定律’还是今后的‘四勿’,都会缠绕他一生。你也离不开人工智能,你不能否决它,贬低它,而需要给它一个合适的定位。即使你打定主意不做记者,不从事政治法律相关工作,也逃不开最高法院对格雷厄姆案的裁定。这一层面,我们立场一致。”
福斯特打量克劳福德,沉吟一分钟之久,才问:“你为什么把嘀嗒人救回来,还找到了嘀嗒一号和嘀嗒二号,公司授意吗?”
“没有,你算算时间,那时候,他们还看不上我。保罗的嘀嗒和其他机器人不一样,我看得出,否则,保罗和你不会那么需要它。而且,格雷厄姆的技术,或许能从嘀嗒人那儿挖出一二。目前看来,也只有陈教授有能力了。”
说完,克劳福德又补充一句:“相信我,我对人工智能本身没有成见。对人倒是有。”
“对我也有成见?”
“你不好沟通。但是,是个不错的人。毕竟,官司打了一年多,我清楚你承受了很多,但从不说。”
“然后?”
“然后,我今天才会特地赶来,向你表明我的立场。最高法院对我的质询,可能影响格雷厄姆案最终定性,甚至日后国会的立法问题。你、我,都需要充分准备。”
“为了调查黑色头盔,我已经用了所有关系和资源。”
“我指,更深层的东西。州法院的辩论与判决,都围绕格雷厄姆将‘三定律’植入保罗的罪行,或是鲁尔的机器人是否安全。但最高法院法官的质询,会涉及更深层的东西,你作为领养人的动机,你将保罗送到鲁尔的动机,还有你没跟我聊过,你也没想通的,格雷厄姆教授的动机。最高法院都不会放过。”
“你想把案情导向何处呢?”
“——大概是,让人工智能与人类不可分割吧。”
福斯特没再说话。克劳福德便起身告辞。
“如果你有了想法,又想找我聊,随时恭候,别忘了最高法院的开庭时限。”
福斯特与克劳福德轻轻握手,如同皮肤毫无接触。然后,纽约金牌律师,立起衣领,消失在晨雾中。
四
“勿用”公司总部建在北京城南,下风下水的地方。十几年前陈陌学成归国,已成为国际人工智能领域的翘楚。格雷厄姆则投身医疗机器人,加入财团的军工储备,做起大生意。他造的铁皮人,成果也初现端倪。陈陌加入国家脑所,与脑专家、神经学专家合作,迅速开发新的人工智能,“勿用”公司随之诞生。
如今“勿用”公司总部所处大兴区已成为各种型号“四勿”仿生动物的实验区。人们都喜来此参观,每遇见捂着嘴吃竹子的“勿言熊猫”,都纷纷拍照留念。
为治疗保罗,陈陌教授要求警方配合,清空了大兴所有外来人工智能,并封锁公司总部,将所有人都暂时调离北京。只留她一人,控制疗程。
肖立所长最后一个离开。他尾随陈陌,一定要弄清治疗手段。
“我会分阶段,做测写,录视频,向你和所里还有媒体汇报。”
“这不是重点,我不想做事后诸葛亮。你也不喜欢我做事后诸葛亮的样子。”
“我更不喜欢你打乱我的计划。”陈陌回身,直视肖立。
“你不提前报告,而我需要心里有底,”肖立摊手,“至少,我们应该谈谈那天事件的逻辑问题。记得福斯特的反应吗?她没有阻止嘀嗒,她认同我的测试。”
“没什么可谈的,那是你自作聪明。”
“自作聪明?”肖立提高音量,“圈内人几乎都认定,问题出在保罗脑壳里,只要重构格林厄姆搭建的神经网络,便能治疗小孩儿。但你想一想,那天嘀嗒人的反应。按照‘三定律’,小保罗认为自己是机器人,我作为人类,命令另一位机器人——嘀嗒——捅死他,他该赴死吗?是的。这不违背第一定律,不伤害人类,因为小保罗不认为自己是人类;更不违背第二定律,服从人类。那么,牺牲自己,便是面对第三定律,万不得已,他的选择。所以保罗没错,他开始唱那一首洗脑的‘三定律’歌谣。而对于嘀嗒,它的选择应当更为简单。如果它也认定,保罗是机器人,那么,我命令一个机器杀死另一个机器,完全不违背‘三定律’。但嘀嗒人犹豫了,它所有关节都在抖,多等两分钟,一定会过载短路。为什么?因为嘀嗒人,尤其是它——嘀嗒三号——内心深处,它清楚,保罗是人类。但它也清楚,它需要将保罗当成机器,以便让保罗相信,保罗自己是机器。那些人都错了,问题也出在嘀嗒人身上。我证明了。”
“对,”陈陌点头,声音平稳,“的确,这是保罗和嘀嗒脑中的一个逻辑问题。但在那个场合,你做出危险举动,只证明了这一个逻辑问题,也没给我任何后续方案,这才让我担忧。肖立,你是脑所所长,平时表现不错,关键时刻,还是像外面的那些人,虚浮、急躁、自恃过高,想问题,尤其是科研问题,只得一两层,便沾沾自喜。所以我才决定,将闲杂人清出总部。”
肖立皱眉。陈陌比他大三岁,他也确乎长于经营人事,而非专注科研。
“事到如今,我做人的问题,不重要。”肖所长清嗓子,“你说,我只找到一个逻辑问题。那么另外的,是什么?”
“保罗·莱克特相信‘三定律’。保罗·莱克特相信自己是机器人。保罗·莱克特相信他与嘀嗒是同类。保罗·莱克特相信他和我们不是一个物种。你认为这几件事,在同一个逻辑层面上吗?共属同一个逻辑链条?属于同一套神经网络的逻辑体系吗?”
肖立微微张嘴,有些目瞪口呆。
陈陌哂笑:“肖所长,你只是久没有利用条理,分析基本问题了。既然你这么追问,那就多留半小时,我向你展示格雷厄姆对保罗改造的要点。从今往后,你也别问我太多问题了。”
肖立心存犹疑,点头同意。他尾随陈陌进入总部科研区。科研区是内外嵌套的两重院落。外院好似野生动植园,各种系列的“四勿”动物或休或戚,或追或跑,它们和睦相处,都是“勿用”公司开发出的高仿生人工智能,面部表情神似动物,又充满智慧,惟妙惟肖。
内院是科研人员主工作区,如今空空如也,平直纵深的几何线条勾勒颇具禅意的现代院落,仅余风吹树叶的声音。
科研大楼走廊,勿动猴推动三面巨大镜子,往楼中心天井报告厅走。陈陌示意肖立上楼。
“从今天起,直到他完成镜像认知,我不会让保罗看见人类。”
“什么?”肖立问。
陈陌没回答。他们来到天井报告厅外侧的顶端。报告厅四周观众席,中间平台,可供乐队演奏,作为临时音乐厅。天顶与墙壁结合处环一圈马赛克一般,敲碎了的镜子,反射报告厅内灯光。但从外侧看,它们是错落有致的明亮玻璃,刚好折射报告厅每个角落,将一切尽收眼底。
勿动猴将巨大镜子呈三面装好。它蹲在镜子前,前后左右仔细观察自个儿,梳理毛发。勿听猴调试录音及音响设备。勿视猴检查完摄像,抬头,用似乎能看穿一切的目光,向陈陌与肖立示意:准备就绪。勿动猴看见,跳出镜子围墙,蹲在观众席上,双臂夹住双手,不动了。
报告厅大门“吱呀”打开。
勿言猴悄然拉着嘀嗒的机械手,进入报告厅。
它们停在镜子围成的三面围墙之外,勿言猴正色说:“我是人工智能,你,也是人工智能。”
嘀嗒人点头:“对,我们都是人工智能,不过,我是机器人,你是仿生动物。我们长得不像人类,为了避免恐怖谷效应。”
勿言猴笑眯眯点头,请嘀嗒人进入镜子围墙。
陈陌说:“人工智能自我意识不强,很少主动照镜子。”
嘀嗒人透过正面镜子,仔细端详自己浑圆的身躯,上面多种多样的,明快的色彩。记录显示,它上一次照镜子,是在狱中。格林厄姆锒铛入狱。他的机器人们,也被迅速收管。嘀嗒人作为保罗的陪伴者,更作为要犯,重点看押。机器人谈不上人权,它被整得很糟糕,狱警特地让它照镜子,让它看自己几乎成为废铁。但保罗离不开嘀嗒人,克劳福德通过多重申请,才将嘀嗒救出。
一天前,四勿猴帮助嘀嗒修好关节,重新擦洗,上漆。嘀嗒出神地望着正面镜中,干干净净的自己,又扭动身躯,在左右侧镜中,观察身体的各个细节,观察自己的运动方式。它中空的腹腔逐渐响起悠扬乐曲,汇在一起,如同快乐笑声,中间还杂有喜极而泣的调子。
天井报告厅大门又一次开启。勿言猴拉着保罗·莱克特进入。小孩看到嘀嗒人,迫不及待奔向它,进入镜子围墙,搂住嘀嗒人的脖子。
“连体婴一样。”肖立说。
嘀嗒人抱着保罗,想离开镜子围墙。保罗反先被镜中的自己吸引。
“嗨!”他向着正面镜子中的自己挥手,随即发现两侧镜中的自己。
“还有你和你,”保罗说,“我好像见过你们!”
保罗继续对着镜子快乐地招手,并对嘀嗒说:“你看,人类小孩向我们招手,他们的嘀嗒人长得也和你一模一样。”
嘀嗒的动作有所中断,随即继续抱着保罗往外走。
勿动猴跳起来,拦住嘀嗒。勿言猴变回奶声奶气的腔调,十分轻快,攀爬到嘀嗒肩头,说:“为什么不让保罗单独和‘人类’交流呢?”
嘀嗒人笨拙地扭动头颅,远处勿视猴轻轻捂起眼睑,勿听猴默默遮上双耳。嘀嗒人无可奈何放下小保罗,自己绕过勿动猴,退出镜子围墙。
勿动猴友善地,轻轻推推保罗。保罗有些羞涩,走向正面镜子。
“嗨,你好。”他变得谨慎羞涩,低头打招呼。
“你和我穿得一样。”他偷眼,抬头。
“你模仿我。”他悄悄说,“你看不起我?因为我和嘀嗒一样,是机器人。”
他转头问右面镜子中的自己:“你张嘴,但我听不见你说话,只能听见我自己的声音。”
又面向左面镜子:“你在嘲笑我,为什么人们从不嘲笑嘀嗒,只嘲笑我。”
他突然孤立无助,对着镜子,小脑袋抵住镜子,低声啜泣。
嘀嗒人无法忍受,伸出弹簧手,推开勿动猴,将小保罗抱出镜子围墙。
保罗委屈得大哭。嘀嗒人用腹腔演奏《小鳄鱼之歌》:“我是小赖皮,小鳄鱼哭哭啼啼……小小赖皮,咬东咬西的小赖皮——”
勿视猴和勿听猴的手指露出缝隙。勿视猴望着陈陌与肖立的方向。
陈陌说:“想问就问吧。”
勿听猴点头。
勿动猴便上前轻轻安抚保罗。勿言猴语调成熟,但又小心翼翼地问:“小保罗啊,你以前,照过镜子吗?”
“照过。”保罗慢慢止住呜咽。
“那你见过,镜子里的你自己吗?”
“见过。”保罗认真地点头。
“镜子里的你,长什么样子呢?”
“和嘀嗒一样,比嘀嗒的颜色深一点。”保罗语气笃定。
勿听猴动作停滞。勿视猴瞪圆双眼,忍不住将脑袋埋入膝盖。勿言猴一时不知如何继续。勿动猴最先醒悟,狠狠戳勿言猴,勿言才说:“挺好,挺好的。从今天开始,你们和我们一起住,一起生活,陈教授为我们安排了更好的房间,她的房间。要知道,那可是总部最好的院子!”
“陈教授呢?”
“她?她和整栋楼的工作人员都出差度假去了。”
保罗不哭了,相反,他有些高兴,显然,他不喜欢人类。
四勿猴簇拥着保罗与嘀嗒离开天井报告厅。陈陌与肖立望着空空如也的镜子围墙,许久没有说话。
“——出差度假?勿言连谎都撒不圆了。”肖立终于开口,“镜像测试,美国那边做过吗?”
“材料是你对接的。”
肖立拍脑袋,调出从纽约调运的嘀嗒一号与嘀嗒二号的全息图。嘀嗒二号的面庞尤为像人,上半张脸与双眼的眼神,几乎同克拉丽丝·福斯特如出一辙。嘀嗒一号的外观,则几乎与陪伴保罗的嘀嗒三号一致,只是颜色深一些。
陈陌双臂交叠:“听说重组后的鲁尔公司,会与‘勿用’合并,构成全球最为庞大最为顶尖的人工智能研究团队。”
“是的。所以才需要你治好保罗,既能挽回鲁尔的名誉,又能让‘四勿’系列顺利进入欧美市场。”
“你应该明白,你的应激测试,我的镜像测试,美国那边,都做过了,他们没找到解决办法,才寄希望于我们的仿生动物。”
“问题出在哪儿?”