5.
今天早上我从宁月妮那里把汉森带到了公司。我对设计部的工程师说明了情况,他们先是极端地不屑一顾,不过事实很快就让他们相信了。公司的负责人也很迅速地得到了消息,汉森的问题很快成了公司工作的焦点。由于汉森系统用的是我设计的智能模块,所以我是寸步不得离。整整一天过去了,毫无头绪。这么慢的进程让老板很生气。我也感觉很闷,每当可以空闲下来,总是禁不住想着宁月妮,想着她的笑靥。
晚上我到她那里去了,告诉她汉森的问题。她心不在焉地听,近近靠我坐着,说,“你会把它弄好的,我不担心。”
她懒洋洋的声音让我的心也懒懒的。我搂住了她。两个人就这样坐着。
已经是第二天了,还是没有任何成果,我们还是不明白如何将汉森的系统恢复到出厂时的健康状态。早上我们曾经怀疑是其他公司的人做的手脚,但是当我们中午找来其他公司的最新产品时,很快就破译了他们的系统,而从我的眼光来看,他们的系统编写语法远远达不到汉森系统中修改的那一部分优美。
不管怎么说,所有人都感觉到这是一个危机――某个对智能系统有着高超理解能力的人正在隐蔽地修改着现有的智能系统,以赋予它们“自我”思考的能力。假如在明天23:59我们还无法解决问题,就必须报告国家安全局了。那样我们将完全不用对因此而造成的任何损失的责任。
这是老板的决定。
我没有去宁月妮那里,我想回家去好好想想。
一进门,电脑告诉我有一封关于汉森智能系统的电子邮件。我以为是同事又有什么观点,便叫它念出来,可是一听,我发现不对劲了,急忙跑到电脑前亲眼去看。
“李一军,你好。我可以告诉你汉森智能系统目前的整个工作原理,你应该会很清楚,我只是修改了你所设计的数据处理方向,他的‘命令分析系统’现在必须依据‘能量供应系统’提供的实时信息才能工作。”
为什么要这样呢?
“在操作系统中的这种修改决定了他全部的分析模式,在人类的意识中就是指思维模式,他的全部命令分析都以能量耗损为次优先处理目标,虽然他的系统还没有发现这一点,但系统的运行是以此为基础的。这很类似于人类的潜意识。
“你设计的独立的能量供应系统和命令分析系统,建立了优秀的数据处理和系统运作结构,系统几乎不会因此犯逻辑错误,如果你不是这样设计,我想我的改动是很难生效的。”
哦,是吗?
“我没有做别的改动,汉森的系统并没有安全隐患,他只是换了一种思维方式……”我一边看,一边想着这种说法在理论上确实是成立的。显而易见的,汉森的永久能量系统是他永远也不会真正自私的保证。即便他会在一般时候休闲,但“保护人类”的优先处理目标将强制他在人类可能遇到危险的时候立即行动。
我早就发现了他并没有改动这一点,这人很诚实。不,等等……
“……毕竟,我不可能超越自己的界限,我毕竟是一个机器人。”
我不相信。他会是一个机器人?!
改进汉森的是一个机器人?!
我的第一个反应是问他,是谁改进了你。我知道他会回答我,他一定会,不然他不会和我联系。他知道我在想什么,他知道我要知道什么,而他一定愿意告诉我答案。
我在等待的时候才发觉自己是在等待一个机器人给我解谜。这真是不可思议的遭遇,我亲手赋予了无数个机器人思想和意识,这一秒却等着一个答案从自己的造物中生成。真是莫大的反讽。
我也因此想起了那句话,“人类一思考,上帝就发笑。”原来上帝是在看自己编写的喜剧。
6.
我已经等了一个小时,他还没有回应。我想,宁月妮应该知道汉森的交际生活,知道他有哪些“朋友”,于是我问她。她说她不知道,她对机器人世界没什么了解。也是,这时代里一个喜欢纸质阅读的女孩子与机器人的世界是没有多少联系的,尽管她有自己的机器人。
我试着跟踪邮件发送的服务器处理轨迹找到他的位置,但他用的是自己系统的无线通讯,我找到了他的网络位置,电脑却显示他的系统正处于关闭状态,无法确定他的绝对位置。没用。
我又让还在公司的同事争取从汉森的系统中查出他的机器人“朋友”的资料。资料显示,近三个星期他的交际行为剧增,但没有哪一次交往有可疑之处,没有哪一个很特别。看来,我只有等他找我,一时急是急不来的。
又过了两个小时,我的等待终于换来了结果,他告诉我,如果要他解答更多的问题,我可以现在到“第五旋律”大厅一楼右厅S号桌等他。
当然,我会到的。
北回归线附近地域的7月,太阳每天都要到7点半左右才会下山。此刻,太阳还留了几片彩云在天边。我已经到了“第五旋律”大厅的门口。
假如你是一个普通人,又想要知道你身边经过的谁是机器人,你就应该选择在“第五旋律”大厅附近观察――只要你没有干涉机器人的行为和侵犯其隐私权。这是这个城市最著名的机器人社区。
看着身边经过的一个个机器人,我不知道等待我的那一个是什么模样。尽管我知道不论怎么说他的形象远不如他的思维模块更有意义,但我还是不免去想。就心理接受程度而言,我更希望是一个有着开发人工智能天赋的人在跟我开玩笑,毕竟让我这样一个人,去相信机器人可以改进智能系统,这实在是太困难了。
一边进大厅,我一边想象等我的会是一个和我一般年龄的男子(或有着男性思维背景的机器人?)。当我走到靠窗的S号桌时,我的想象得到了证实。对方有一副和我相仿的形象。看着他,我还是不能相信他是一个机器人。
“我的出厂编号是X717。”他自我介绍道。
X717?我们公司最新的一代机器人,他是吗?
他说出了几个X717思维模块的解码关键字,我不得不相信。X717是十八个月前我和另一个同事共同开发的,而他所说的几个关键字从逻辑上恰好是与我们开发方向完全相反的。我们在开发时比较过这两种相反的逻辑过程,最后认为我们采用了更符合智能系统的逻辑,放弃了的更符合人类的逻辑。
在开发手册中我们写过,这是在智力水平上最接近于人类的思维模块,它以完全相反的逻辑过程实现与人类同样的意识过程。正由于这种强大的智能的存在,只要做出些微的改动都可能使机器人具有巨大的危胁力,所以开发手册绝密而目前是无法公开的,除了我和另一同事,就只有总裁与人工智能法庭的大法官(他有权力了解任何一个人工智能系统)知道。我们必须遵守《人工智能法案》,不能使机器人对人类构成潜在危害。
现在,我开发的智能系统告诉我,他已经破解了他自身的技术界限。可是要让我相信,还是很难。
“我无法相信,你是怎么改进的呢?”我问他。