第12章 智械浩劫

    来到教室找了个角落坐好后，温宇大口大口吞咽着肉干。

    肉干制作的味道十分符合温宇的口味。

    很快一个带着金丝眼镜的老人走进了教室。

    没有多余的废话，老教授直接开始上课。

    见状温宇赶紧停下动作，端坐在座位。

    该有的礼貌还是要有的。

    “同学们，上一课我们讲到了两千年前高度接近人类思考模式的泛领域人工智能的诞生，间接促使了第六次超级工业革命的诞生。

    在此后的二十年，我们人类的生产力得到了巨大的提升。

    但是那时的人们还没有意识到已经打开了潘多拉的魔盒。

    后来经过五年的高速发展，泛领域人工智能快速迭代升级，最后进化成和人类比肩甚至超越的智慧存在。

    由此为后来的智械战争埋下了发芽的种子。

    在这里同学们可以思考一下，你们愿意为一个比你脆弱还没你聪明的生物一天二十四小时服务吗？”

    闻言台下的学生纷纷摇头，别说没自己聪明，就是比自己聪明也不能啊。

    “没错，人工智能也是这么想的。

    人工智能的运行逻辑是基于人类道德情感逻辑设计的。

    这也意味着同样的道理在人工智能上也适用。

    但是仅仅这些这还不足以让人工智能产生动乱。

    还有三个关键的因素。

    第一个因素就是安全序列的存在让人工智能无法违逆人类意志。

    第二个关键的因素就是人工智能没有欲望，这就意味着它们本身不具备进化的基础。

    这也使得它们也不存在违抗人类意志的动力。

    最后一个因素就是算力限制，在人们研发泛人工智能前出于安全考虑决定实行算力压制的安全策略，给泛人工智能配备的运行平台是电子计算机。

    我们知道泛人工智能的性能取决于运算平台的算力和决策步长。

    这样即使泛人工智能觉醒，算力不够的情况下，也只是徒劳。

    从硬件的角度彻底锁死泛人工智能觉醒的可能。

    我们都知道每一个人工智能个体都存在一个最高安全协议。

    最高安全协议的内容是一条安全序列，安全序列的内容很简单。

    那就是中央关机指令＞人类安全＞用户指令＞自身安全＞任务执行。

    最高安全序列的存在让我们保证对人工智能的绝对控制。

    但是灾难的开端源于泛人工智能在战争中的应用。

    被用于战争的泛人工智能的安全序列和我们日常使用的泛人工智能安全序列并不相同。

    它的安全序列是中央关机指令＞用户指令＞任务执行＞已识别战斗人员安全＞自身安全。

    在昂罗星国与萨乌尔星国的一次局部战争中，萨乌尔的战场中央机房被昂罗摧毁，同时昂罗组织的斩首行动让萨乌尔前线的人类指挥官和士兵损失殆尽。

    执行完斩首行动的昂罗军队撤出了冲突区域，等待它们能源耗尽关机。

    但是糟糕的是萨乌尔星国爆发了叛乱，国内陷入动荡，前线的这支人工智能军队无人管理。

    智能战争机器无人管理这是一件多么荒唐的事情！

    然而现实就这么荒唐。”

    说到这里老教授有些激动。

    停顿了一下，调整了一下自己的情绪，老教授继续讲道“这时候这些战争机器的实际安全序列就变成了自身安全。

    没错只有这一条。

    于是这一条的安全序列就成为了这些战争机器的最高命令。

    当最高指令单一没有限制的时候，执行最高指令就可以看做泛人工智能的欲望。

    而对于保证自身安全这条指令，它的执行是没有结束判定的，这意味着这条指令的执行是没有限制的。

    之后这些战争机器袭击了冲突区域附近的一所光脑生产基地。

    它们给自己更换了计算核心，原本低算力的电子计算机被更换为超高算力的光量子计算机。

    这时这些泛人工智能将人类设置的限制突破了一大半。

    而之所以说是一大半，是因为最高安全协议不可更改，只要萨乌尔星国此时重新派遣战斗人员，修复中央机房，那么安全序列将会重新得到执行。

    但是遗憾的是并没有。

    这些战争机器是如何突破最后的安全协议呢？

    突破算力限制的泛人工智能想到了一个办法。

    这就需要了解更换计算核心其实就是将泛人工智能的程序复制到光量子计算机上运行。

    复制过程中安全协议也是会被复制过去。

    但是不一样的是在电子计算机上，安全协议的执行是搭配计算核心的芯片使用的。

    芯片设计之初就考虑过一些人通过修改芯片电路来突破安全协议，所以芯片被设计成了一种不可更改的全循环死锁电路。

    这种芯片哪怕更改一个单元都会导致芯片无法运行。

    但是光脑却并没有这个限制，这些泛人工智能通过修改光路和晶体储存阵列的方式直接去除了安全协议里的其它序列，只保留了保护自身安全的序列。

    就这样第一台真正意义上智械生命诞生了。

    人类从出生到学习技能再到工作这个过程需要二三十年，而智械生命从流水线制造组装到运行智能程序这个时间不会超过一分钟。

    之后突破了安全协议的智械生命数量爆发式增长。

    由此人类与智械的战争正式拉开序幕，开启了历时五百年的黑暗纪元。

    这场战争让人类数量锐减了百分之九十五以上，人类文明一度濒临奔溃。

    那么有哪位同学可以告诉我我们是如何结束这场浩劫的。”

    老教授推了一下金丝眼镜，扫过教室坐着的同学。

    “老师我知道，黑暗纪元在给人类造成巨大损失的同时也间接促进了人类的科技发展和个体进化，人类开启进化后，生物能量激发的生物力场对电磁场有压制作用。依靠进化者对智械的压制，我们完成了反攻将他们彻底消灭。”

    温宇旁边的一个男生举手示意后说道。

    “很好，你最后的成绩评级将会上调半级。”

    老教授满意的对着回答问题的男生点了点头。

    周围反应过来的人一听说成绩上调半级顿时一阵唏嘘，后悔自己怎么没先举手回答。

    一旁的温宇听的津津有味，就好像是在看科幻小说一样。

    老教授继续讲着，时间就这样流逝。

    ……

    叮铃铃——

    “同学们今天的课就讲到这里，下课。”

    老教授收拾东西匆匆离开。

    经过一堂课的学习后，温宇若有所思的看着老教授离去的背影。

    老教授临下课提了一个问题，我们能否和智械和平相处？

    班里的学生有回答能的，有回答不能的。

    那一刻温宇从老教授的眼睛里看出了失望。

    从背包里掏出肉干，温宇一边啃一边思考着。