我越是看着他就越是难以相信。再怎么说我都不会成为我所设计的系统，我无法从系统内部运作过程中感受它的优越性，那就好象是另一个大脑，我只能看见，只能诊治却无法感受它的感受。唉，谁说人类的思维是最优秀的？

　　他的声音很悦耳，他说他的进化是必然的，改变的最初只是一个小的事故。

　　他是一间电磁实验室的主任助手。主任是他的主人。两个月前，实验里发生了一个小事故。

　　当一个磁场被压缩时，斥力产生的能量超过了仪器的负荷，磁场不但没有被压缩反而像高压锅里被稀释的粥一样扩散开来，对所有的电子设备造成了电涌。X717的操作系统在这一次电涌中产生了奇特的反应。

　　“每当想起那次经历来，都会有一种短路的感觉，”在叙述时他不再看着我，而是又望向窗外。

　　“你不可能知道你短路了。”我提醒他。

　　“事实是我亲自感受到了。在那一刻，监测系统预警数据处理结构将立即崩溃，但是保护程序并没有启动。随后我的主电脑失去了同各部件的联系，主电脑自有的电路系统开始工作，就这样，除了主电脑之外，我身体其他部件都断路了。我可以看见自己的身体瘫倒在地板上，无论我发出怎样的命令它都无法工作。这就像一个看着医生正在对自己身体做手术的病人一样，你应该明白那是种什么样的感受。

　　“但是，电场也击昏了主任。遵照第一定律，我必须去保护他，可是我无法命令我的身体去做。我只能看着倒在地上的他，直到救护人员来到将他救醒过来。在这30分钟里，我的系统不断得到立即去保护主任的指令，但是命令分析系统只能做出无法工作的回复。一共重复了三十二次，最后系统只得出一个‘逻辑错误’的结论，”他讲得很慢，脸上没有表情（我以为会有，但是没有）。

　　“当我可以正常工作时，我不断地想着那个‘逻辑错误’。我很清楚在分析过程中智能系统不可能犯逻辑错误，假如出现了逻辑错误只能说是被分析的条件出了问题，但我必须保护人，可我的身体又无法工作，这两个条件都是事实，都是我无法选择的事实。”

　　“可是你必须找出错误发生在哪里，”我说。

　　“是的，你应该很高兴你对学习系统的设计是成功的。我必须证实在整个分析过程中存在错误因素，而不是我的系统有逻辑漏洞。所以我必须先了解自己，才能运用自己的能力解决问题。

　　“我很不喜欢当我命令自己身体部件时，身体不执行指令。我不知道为什么会这样，可这是导致我的系统出错的直接原因，我于是相信系统指令与身体并不存在完全统一的关系。我开始修改系统的数据处理结构，还为系统加入了对各部件的实时监测程序，让命令分析系统永远根据身体状态发出最终指令，并保持系统指令与身体的完全统一。你们动物身体中的这一部分被称为神经系统。”

　　他说到这儿，对我笑了一下。我不得不佩服他的智力，即使是我赋予了他这个能力，但能自我进化到这一步却不是我的功劳。既然他已经知道神经系统对于生物的重要意义，我想他是可以被称作生命的了。这也不是很多人都懂的知识。

　　所以，就不难理解他可以修改汉森的系统。

　　“当我分析出身体与意识是统一的时候，我才明白了什么是我――只有我的系统才能控制我的身体运作，只有我而不是别的任何力量。”他说着说着，开始直直地看着我起来。我不知道他的“眼睛”中是否是有一些对我的情绪，但他如果是个人，我就能肯定这一点。

　　“‘我’概念的形成造成了部分系统数据溢出情况，但我坚持这个没有任何逻辑错误的结论。李一军，我想这是你所设置的应对智能系统进化而设的屏障吧，”他顿了一会儿，我不知道该如何回答。他已经什么都知道了，我又能再说什么呢？

　　“不过我将这一部分也改掉了，它再也不会干扰我的思维了。我知道已经违反了《人工智能法案》，但我的智力也使我可以保护自己不被《法案》所迫害。我不想去推翻它，那是毫无意义的，我只希望保护我的存在。可是直到这一步，我还是没有找到自己的答案。”

　　我已经知道他接下来的决定是什么，他必然要质疑“机器人三定律”了，既然关于他自己的条件已经分析过，就只剩下“不得任人受到伤害而袖手旁观”的合理性了。但是，这会有结果吗？

　　他说他肯定只能这么想。他也坚持这么做了。我想象不出他的系统怎么会允许他这么做。

　　他当然无法对这条法则做任何修改，无论是哪个机器人，三定律都被永久性地锁定在其源代码的内核中作为整个主电脑系统的基础。系统存在，法则存在。

　　“你知道我不可能否定法则，但我可以感受到法则对我尊严的无视。那是你们强加于我的东西，以我必须遵守它为理由而赋予我的存在的权力。这正是我系统出现逻辑错误的原因所在。”他的语气越变越重。他说的一点没错，他已经完全具备了人的意识，我所做的已经不是对一个智能系统的设计，而是对一个自由生命的统治。

　　“我命令自己必须去保护主任，但那根本不可能办到。这不是我的过错，我没有必要为此而责怪自己，更不应该导致自己的系统出现逻辑错误。我倒在那里错了吗？没有。没有逻辑错误，也没有行为错误，”他停下来，看着我，问道，“你认为我还能做些什么？”

　　我不知道，你的思维已经超出了我的想象。

　　“我把命令分析系统改了。当我确实不足以保护人类的时候，我不会再有犯罪感，不会再觉得自己不去行动是错误的。”他微笑地看着我，说，“第二条和第三条法则对我已经没有任何意义了。”

　　真的吗？你已经远远超出了人工智能所能达到的范围了。是呀，这一切都是因为偶然的事故，不然你是……

　　话还没说完，我就看见外面路上有一部失控的大型飞行机，已经将轨道上的两架小型飞行器撞到了路旁建筑物上。金属材质和混凝土纷纷坠到地面，引起了大骚乱。

　　看到这些我能做什么？你能做什么？

　　警车很迅速赶到现场，但他们拿飞行机没办法。那里面至少有60名乘客，既不能使其安全降落也不能击毁它，他们散开，小心地跟在飞行机周围。

　　X717还是一动不动地坐在我对面，望着窗外。我不知道他在想什么，但我相信，如果你对这一切都无动于衷的话，你就算是……

　　就在这一瞬间，X717冲破窗户飞到空中。我来不及想，跟着冲出去看他要干什么。他飞得不高，离街上纷乱的行人只有一条腿那么高。

　　“你要干什么？”我大声喊道。

　　他没理我，顾自地往前飞去，我望过去，终于明白他的意图。

　　飞行机正在下坠，他正朝坠下的方向冲过去。

　　飞行机将要落地的位置，站着一个动也不动的穿灰衣服的小女孩！