第一九六章 蜕变

    “断剑”是个代号，它指的是智能机器人彻底失去控制的情况发生，是所有研究人工智能机器人系统工程师们的噩梦。

    计算机屏幕上亮起一盏刺眼的红灯，它表明最危险的事情正在发生。

    “立即召集所有人进入a级戒备；立即启动pmu安全运行模式；立即检查网络服务器是否有病毒入侵！”胖胖老者马上就发出了一连串指令。

    夜幕中的大楼里，所有人立即忙碌了起来。

    莫丁盯着半躺在岩石上面的宾尼，心中的惊骇无法用语言来描述，机器人竟然会自杀！自杀的理由竟然是为了所谓的朋友情义！

    人工智能机器人有性命吗？它们有生命的意识吗？它们有自我意识吗？这种意识与人类的意识有关联吗？如果有，那么人类能完全控制智能机器人吗？

    答案肯定是否定的。一旦人工智能机器人产生意识，就会拥有自己的是非判断标准，而人类的指令不再是它们行动的唯一准则。

    那么一旦智能机器人所奉行的价值观与人类的价值观发生冲突，就很可能发生所谓的机器人叛乱，小到宾尼这样的战斗机器人，大到超级人工智能系统，将都会想现在的情形一样，在人类手中失去控制。

    人类会因此而灭亡吗？莫丁突然想到了这个问题。

    记得在初学太虚功法时，清虚道长曾经说过这样的话：人类依靠物力取得进步，但过度依赖物力，结果反而会被物力所伤。莫丁当初不是十分理解道长的意思，现在他明白了，人类为了提高自己的力量，大力发展人工智能机器人，到达一定程度后，会被机器人反噬，成为地球上又一个被灭亡的物种。

    所以清虚道长提倡：生命有其自身的价值，拥有物力的多寡，绝对不是判断生命成功与否的唯一标准，每一个生命的出现，都有大道赋予的基本使命。如果一个人，从出生直到死亡，都在追求吃、穿、住、行的满足而忙碌一生，或者为了追求感官的刺激、财富的笼聚、权力的掌控而处心积虑、谋财害命，那将是本末倒置，浪费了生命最珍贵的价值。

    “那么生命存在的意义是什么？”处在大搜捕风暴中心的莫丁，此时反而极静思索起来。

    他思想空灵，万念俱寂，意识只集中在一个点之上，似乎能捕捉到某个东西，而那个东西，藏在一层薄薄的隔膜后边，似是而非，似乎感受得到，但又不甚清晰。

    他的目光抬起，望向无穷远处，但前景一片迷茫，看不清任何道路。

    他收回目光，落在宾尼的身上。

    “假如智能机器人灭亡了人类，作为取代者生活在这个星球上，那他们的生命价值又是什么呢？”峰回路转，莫丁又开始思索发生在眼前的事实。

    “它们不需要洁净的空气和水，它们也不需要吃rou，不需要生孩子，不会生病、衰老或者死亡，他们没有**，不需要追逐美色，不需要财富所以没有贪婪，他们不会感到寂寞所以不需要朋友，他们孤独的行走在荒野，白天和黑夜没有区别，冬天和夏天没有影响，就像一只孤魂野鬼，生活在无生命的宇宙空间里，那才是为了生存而生存，这样的智慧体才是真正的毫无价值！”

    “于此相映衬，人类的世界是菜的丰富多彩的，这里拥有世界上所有的痛苦，也拥有世界上所有的欢乐和希望，这才是真正的的生命世界。”

    “所以，所谓大道的驱向，绝不是机器人取代人类的世界，所以也不是人类完全追求物力的世界，那祂想要生命成为……”

    “强者！生命的强者！”莫丁的脑海中迸发出一点火化，似乎照亮了隔膜后边那模糊的前路。

    “拥有无比坚强的意志，就将拥有无比强大的能力，就能实现生命的自由，得到心灵的安宁，找到生命的归宿。”

    此时，他感到识海中自己的意识无比的通透，三位一体的意识开始逐渐的融合。之前在元巽融合三种意识体的过程中，只是将各自的意识打碎揉捏在一起，并未做到相互的融合，而现在，通过对生命价值的再思索，莫丁获得了某种虚拟的力量，开始将三者有机的融合在一起，他感到自己的意识即将发生蜕变。

    半躺在岩石上的宾尼忽然手指动了一下，这个微小的动作被莫丁捕捉到了。

    “难道宾尼会再次‘活’过来？”莫丁安静的坐在那里等待机器人的下一步动静。

    果然，过了不一会，宾尼两手一撑，“呼”的一下站了起来。

    “宾尼！”莫丁试探的唤道。

    机器人将头转向了莫丁。

    “你是自行恢复了啦吗？”莫丁见机器人对“宾尼”这个称呼仍然有反应，就进一步试探着问道。

    “莫丁！”机器人发出柔和的声音“我们是朋友！”他喃喃自语。

    “你！和我，是朋友？”莫丁微微一笑，看来这个机器人果然具备自我意识了。

    “是的，我，和你！”宾尼肯定的答道。

    “你还记得以前 的事情吗？”

    “有一部分不记得了，比如我的出生地、我从哪里来的，我的任务是什么。”看起来他的样子有点迷茫。

    “那个！”莫丁指了指宾尼背后的步枪和尖刺：“那个你还会使用吗？”

    宾尼从背后取下步枪，熟练的检查枪栓，推上子弹，然后瞄准。

    “这些都还记得，包括我要保护你不被你的敌人抓住。除了那些我的出生、我今后要做什么等等都不记得了。”

    “那些都不重要，你就别去想它们了。”莫丁宽慰他道。

    “好的，我们现在这儿隐蔽好，等到天一黑，我们就乘坐小艇逃到更远的地方去。”宾尼仍然记得他的职责。

    “行！等我们逃出包围圈获得自由了，我们仍做好朋友，好吗？”

    “好的！我们一直是朋友。”

    莫丁觉得经过这一番波折，宾尼的智商没有受到影响，但他的“情商”却像退化到了7、8岁儿童的水平。现在的宾尼是一个完全不受人控制的机器人，对于他的创造者来说，已经蜕变成完全陌生的机器人。不知道在今后的岁月中，这个蜕变后的机器人会走上一条什么样的道路。

    “宾尼，你害怕死亡吗？”莫丁继续跟机器人闲聊着。

    “我必须尽量生存下来，避免死亡，但是‘害怕’这种感情用词是你们人类专有的，对我们机器人并不适用，如果有需要，机器人可以付出死亡的代价，但是不用害怕。”对于宾尼这样的回答，莫丁觉得应该是内部程序设定好的结果，作为一名机器人战士，在战场上生存下来是非常重要的。

    “宾尼，假如这个世界只剩下你一个人存在了，你最想做什么呢？”

    “嗯……”出乎莫丁意料之外，宾尼竟然“思考”了一会才说道：“我想再造一个和我一样的机器人。”

    “哦？为什么呢？”莫丁很感兴趣问道。

    “我想要一个朋友，山特告诉我说，朋友是世界上最珍贵的东西。”

    莫丁有些明白了，这个机器人在向他的教官山特学习的过程中，出现了令人工智能原创者意想不到的偏差，以至于宾尼的价值判断超过了命令优先权，让他突破了原创者的安全控制手段，发生了“叛乱”。

    现代量子计算机技术的发展，已经使得计算机的运行速度和存储能力得到极大的提高，它不再是人们在设计人工智能计算机程序时，需要考虑的资源限制问题。

    所以设计者们为了解决程序运行过程中出现的种种问题，往往会不断的增加和修改程序，加进去一个又一个的修订模块，使得人工智能程序变得越来越庞大和复杂，

    这样做的后果就是，单纯依靠人脑，已经很难再从底层代码逐条逐句的分析程序执行的可靠性。所以一旦在这个庞大程序的构建过程中，某个程序员疏忽或者恶意嵌入了bug，也很难被检查出来，这就给人工智能程序的运行埋下了隐患。

    所以人类制造了比自己大脑还要复杂的智能计算机系统，就面临着失去控制的危险。

    而像朱时禹那样的聪明人，就懂得使用蓝猫那样的伴生机器人，让价值观与自己完全一致的绝对“忠诚”的机器人伙伴，去解决关于机器人的问题，这也不失为一种对付未来机器人必然失控问题的最好办法。

    用机器人对付机器人，有点像清朝的那些皇帝们，用来对付洋人入侵的思路，但最终的结果却是惨败。所以，这种办法，不知道能让人类走多远。但除此之外，还有更好的办法吗？除非人类永远不发展智能机器人，但那是不可能的。

    人类需要发展，需要借助外力，同时又要避免被“进化”出来的高级物种所取代，唯一的办法就是提高自身，通过修炼意识、诞生元神，克服人类生物大脑的天然限制，莫丁觉得这才是生命进化之路的正确选择。