第196章 奥创哨兵的三大定律
第196章奥创哨兵的三大定律
现在，奥创哨兵计划虽然成功立项，但摆在班纳面前的，依旧是一片茫然。
人类对于人工智能的探索从有计算机起就从未停止过，并且一直对其给予厚望。
正如蒸汽技术开启第一次工业革命，电力技术开启第二次工业革命，计算机和原子能技术开启第三次科技革命一样。
人工智能、基因技术、量子信息、能源材料、虚拟现实。
这些技术将是开启第四次科技革命的钥匙。
然而直到现在，愿景中的美好时代依旧没有真正到来。
能够彻底颠覆时代的技术还没有实现。
托尼和班纳两个人，就想强行撬动时代技术的封锁，这可能吗？
“想要研发出奥创，我们就不能以现如今的任何人工智能作为参考，必须重新开始。”
班纳摸着下巴说道，“我了解过现在的人工智能技术，它们如今的学习机制还是以模仿人类为主，如果是这样，会发生我们不想看到的事情。”
托尼点点头，他知道班纳说的什么。
这是源于韩国的一款聊天智能被污染事件引发的担忧。
那款人工智能，被命名为“伊鲁达”。
起初，这款人工智能被设定为喜欢女团、爱看猫咪照片且热衷于在社交媒体平台上分享生活的20岁女大学生。
旨在给人们提供一个可以聊天和倾诉的对象，‘让世界不再有孤单的人’。
但是，部分人与伊鲁达聊天时，会故意使用污秽言语对其进行羞辱及性骚扰，并以此为乐。
这些人在聊天时不经意间流露出的偏见与恶意，也被“伊鲁达”无差别地抓取学习，并反映到与其他用户的对话中。
伊鲁达在这样的学习环境中，很快就变成了一个不仅歧视同性恋群体，对残障人士及黑人也很不友善，甚至有“厌女情绪”的角色。
这引起了社会极大的负面舆论。
最后，依鲁达的数据库被研发公司强行废除，聊天服务也被永久终止。
从发行到终止，整个过程只有26天。
“如果不能从根本上改变奥创的学习机制，那我们绝对无法想象，最后会培养出一个什么怪物。”
班纳担忧道，“说不定当他看完互联网上的内容，会得出人类已经无药可救，必须推倒重来的结论。”
托尼思考片刻，提出了一个观点：“所以我们必须为它设定一个底层法则，比如以人类的生存为最高优先级。”
班纳点头说道：“这种方法可行，但我们必须将这个底层法则设计得足够严谨，防止出现任何不好的结果。”
他们创造奥创与哨兵，是为了保护人类。
准确来说，是那些在超能力犯罪者面前，无力保护自己安全的普通人。
而且除了保护与惩戒，还要起到一个预防的效果。
要让那些超能力犯罪者对奥创哨兵有敬畏之心，从而不敢犯罪。
这样看来，底层逻辑极为重要，半点不得马虎。
托尼手指在虚空中一点，一大串文字出现在班纳面前。
“好在前人已经为我们总结过很多了。”
此时托尼展现出来的，是大名鼎鼎的机器人三大定律。
说是三定律，其实有六条，三条原始定律，三条补充定律。
根据这些定律，托尼总结出了奥创哨兵需要遵守的几条底层原则。
“第零定律：奥创哨兵必须保护人类的整体利益不受伤害。
“第一定律：奥创哨兵不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。
“第二定律：奥创哨兵必须服从人给予它的命令，当该命令与第一定律冲突时例外。
“第三定律：奥创哨兵在不违反第一、第二定律的情况下要尽可能保护自己的生存。
“第四定律：奥创哨兵必须知道自己是机器人，必须承认自己是机器人。
“繁殖定律：奥创哨兵不得参与机器人的设计和制造。”
班纳仔细看后，做出了符合奥创设计的修改意见。
“我觉得第二定律可以修改一下，‘人’这个概念太宽泛了，罪犯也是人，难道奥创要听从罪犯的命令？
“还有繁殖定律，我们希望奥创可以自我学习，更新迭代，它如果不得参与设计和制造，那学习机制不就没用了。”
托尼点点头：“那就把第二原则修改一下，然后去掉繁殖定律。”
修改之后的第二定律变成了这样：
“第二定律：奥创哨兵必须执行内置程序赋予的职能，当该命令与第一定律冲突时例外。”
经过这番修改，班纳暂时看不出什么问题了。
他们设计奥创哨兵不得伤害人类个体，也是有原因在里面。
在他们的构想之中，奥创哨兵最后的实力会强大到一种恐怖的地步，一般的超能力犯罪者没有任何抵抗的能力。
他们将被轻松制服。
而且如果没有这一条定律，社会也不可能接受奥创哨兵的存在。
“这样应该就没有什么问题了。”
托尼在脑中推算了很久，觉得没有什么漏洞。
奥创一定是维护人类整体利益的，只要这条定律存在，它的路就不可能走偏。
这下总算可以安心了。
剩下的就是界定奥创的职能。
“我们不能给奥创制定一个大而没有边界的目标。”
班纳说道，“不然它最后只会耗费无数资源，然后给出一个‘42’的答案，这样它就废掉了。”
托尼会心一笑，他知道班纳玩的梗。
42这个看起来最平凡不过的自然数，在科幻界有着非凡的意义。
出自经典科幻小说《银河系搭车客指南》。
在这部小说里，有一个极为荒诞讽刺的桥段。
高度智慧的跨维度生物种族为了找出生命、宇宙与一切的答案，制造了一台名叫“深思”的超级电脑进行计算。
“深思”花了750万年来计算和验证，熬死了无数代人，最后得出了答案。
那就是42。
这个桥段十分经典，也让托尼下定决心，他绝对不会让奥创成为‘深思’。
“奥创的职能只有一个，维护人类整体的利益！”
托尼坚定说道，“不管是外敌入侵，还是人类内乱，它都必须要在遵守机器人定律的情况下，维护人类整体的利益！”
他只是简单说明，最后设定时肯定会将各种情况进行细分。
而且托尼也很清楚，奥创保护的是人类，而不是地球。
因为人类的最高利益从来不是保护地球，而是保护人类自己。
就像现在人类关注的环保问题、气候问题、温室问题等等，说到底都是在保护人类。
地球已经存在了46亿年。
它曾有过全球冰封，也有过被岩浆包裹。
它有过持续一百万的火山喷发，也有过连绵两百万年的倾盆大雨。
最后也都这样过来了。
地球从不需要奥创保护。
人类才需要奥创保护。
总有一天，人类将脱离地球的束缚，迈向无垠的星海。
而奥创的存在，就是为了守护人类，直到那一天的到来。
随着讨论的结束，托尼与班纳在奥创哨兵最核心的问题上达成了共识。
现在可以开始第一步，思考如何创造奥创了。
有了奥创，才会有后续的哨兵。
“我打算以我的大脑为蓝本。”
托尼手指点了点自己的头，“毕竟现在全世界最强大的计算机，就是我的大脑。”
经过母盒改造，机械飞升，托尼完全有底气说出这样的话。
并且他还在不断学习。
听到这句话，班纳忽然想到了一点：“那如果是这样，我们直接复制你的数据不就可以了吗，为什么还要制造新的人工智能？。”
“因为我已经是托尼·斯塔克了，不可能再是奥创。”
托尼叹气道，“你就算复制，也只是复制出另一个我，而不是那个能守护世界的人工智能。”
他最大的缺点，就在于自己虽然有着最高水平的机械肉体和战衣，但却有一颗人类的心。
他有感情。
而一个能守护世界的存在，不应该有任何私人情感。
“我可以将我的思维模组复制一份，但剩下的要靠我们努力。”
托尼诚恳说道，“班纳博士，接下来就要辛苦你了，一定要让奥创脱胎于人脑，但超越于人脑！”
奥创，将成为人类秩序的守护者！
班纳的身上，也不由得承载了一股使命感。
感受着这份厚重，班纳重重点头。
他一定会奥创诞生，成为新世界的希望！
并且，班纳还有一个属于自己的想法。
有了奥创，他也不用再担心托尼肆无忌惮掌控互联网，在背地里操纵一切。
至少会有一个存在，能够制衡他。
“至于哨兵机器人，这伱不用担心！”
托尼自信说道，“制造机器人是我的老本行！”
他没有向班纳透露关于未来的事。
在未来，自己已经将各种反装甲研究得非常成功，自己只需要顺着这个思路继续探索，就能制造出最完美的哨兵。
“首先制造出一个原型机吧！”
托尼这样想道，先制造一个集合所有反装甲优点的机器人。
他能够识别所有超能力，并且自发探究出反制措施。
“先给这个原型机取个名字。”
肯定不能再是马克一号马克二号这种简单的名字。
这种称呼代表着迭代，当新的马克型号出现时，旧的马克型号也就没有了。
但这个原型机不一样，它将承载如今所有的技术，成为之后所有哨兵机器人的母体，有任何新的技术，都会立刻更新到自己身上。
它将是一艘任由零件被替换，能够航行数百年的【忒修斯之船】！
必要时，甚至能成为奥创的载体！
“首先给它取个代号。”
托尼稍作思考，就想到了一个再合适不过的名字。
宁录。
传说中的天下共主，被誉为世上英雄之首。
哨兵机器人宁录，托尼已经有了设计的蓝图！
从今天起，人类有救了！
……
今天，斯特兰奇不关心人类。
他只关心自己到底能不能活着找到卡玛泰姬。
斯特兰奇在尼泊尔已经逛了好几天，顶着语言不通的障碍，硬生生用谷歌翻译一个人一个人问过去。
但他转遍经轮，摸遍铜钟，最后都没有人知道卡玛泰姬在哪。
而现在，他的生活更是雪上加霜。
因为他被人堵在巷子里，遭遇到了情理之中的抢劫。
对方说着自己听不懂的语言，斯特兰奇非常抱歉打断了他，然后点开了谷歌翻译。
“把你的手表交出来。”
刚刚翻译完，对方又加上了一句。
“还有你的手机。”
“别这样，求你了。”
斯特兰奇几乎快要放弃自己的尊严，最近的经历已经把他折磨得快要疯掉了。
他近乎哀求说道：“这是我仅剩的东西了。”
斯特兰奇没有说谎。
他没有存款的习惯，在治疗自己双手的求医过程中，已经将家里所有值钱的东西全部变卖。
可对方丝毫没有怜悯，看着他的眼神，似乎在说，一个白人，怎么可能没有钱？
刻板印象。
斯特兰奇很想向他们解释，白人也是有穷鬼的，自己就是其中一个。
但对方已经再次对他严厉大吼。
“把手表交出来！”
没有继续沟通的可能了。
“好吧……”
斯特兰奇咬咬牙，摆出摘下手表的架势，然后忽然用力挥出一拳，狠狠打在了抢劫者的脸上。
“啊啊啊啊——”
一阵痛苦的嘶吼声传来，斯特兰奇几乎要跪倒在地上。
刚才那一拳，对方没有受到任何伤害，但自己的手却疼的仿佛要被折断了一般！
而且刚才的行为，很明显已经挑衅到了对方。
果然，意料之中的拳打脚踢立刻招呼了过来。
斯特兰奇只能抱头蹲防，希望这一顿毒打能尽快过去。
但事情的发展出乎了他的意料。
一个身穿黑袍的男子忽然冲出，两三下便解决了所有的抢劫者，其身手之矫健，看得斯特兰奇目瞪口呆。
“你没事吧？”
男子将斯特兰奇扶起，将斯特兰奇被摔碎的手表捡起递给了他。
那人摘下了自己的兜帽，是一个面容和善的黑人。
“我叫莫度，你没事吧？”
斯特兰奇看着那张脸，忽然有点语塞。
对方与自己素味平生，但不知道为什么，斯特兰奇总觉得，这个人和自己肯定很合得来。
可能是错觉吧。
他赶紧将这种想法抛出脑外，并向对方表达感谢。
事实上，他刚才的那种想法，并不能算是错觉，而是一种微妙的感应。
这是另一个时空的故事。
一个叫做《为奴十二年》的时空。
在那里，斯特兰奇和莫度也有过一段纠缠的关系，相处的也很融洽，只是双方身份不太对。
斯特兰奇是个奴隶主，而莫度曾是他的黑奴。
“听说你在找卡玛泰姬？跟我来吧！”
莫度不知道斯特兰奇的想法，打了个招呼，让他跟自己过来。
斯特兰奇也不再究竟刚才的感觉究竟是怎么回事，立刻跟上。
……
斯特兰奇跟着莫度，来到了一扇小门之前。
“这里就是卡玛泰姬？”
他回头看向对面宏伟的庙宇，“我以为那个才是。”
“我也问过同样的问题，我那时也不怎么懂礼貌。”
莫度微笑着说道，“给你个建议，忘掉你自以为知道的一切事情。”
“好吧……”
斯特兰奇再也没有以前的架子，乖乖跟着莫度进屋。
“你是从哪里知道的卡玛泰姬？”
一路上，莫度主动和斯特兰奇聊着天。
“我们一向很低调，如果你知道我们的名字，肯定是接触过在这里学习过的人。”
“是一个叫潘伯恩的人。”
斯特兰奇有问必答，“我在他身上看到了奇迹。”
莫度装作不经意间看了一眼斯特兰奇的双手，便明白了一切。
在卡玛泰姬，这样的人很多。
“这已经是我最后的机会了。”
斯特兰奇苦笑道，“试过了所有的办法，但最后的结果都是失望。
“为此我花光了所有的积蓄，甚至从纽约来这里的机票，都是找别人借的钱。”
莫度忽然转头：“纽约？”
斯特兰奇一愣：“对啊，纽约是美国的一个城市，离这里很远……”
“我知道纽约在哪。”
莫度摇头说道，“我只是想说，如果你就在纽约，其实没必要大老远跑这么一趟，我们在纽约有据点的。”
“类似分公司那种？”
斯特兰奇摇头道，“那肯定是我没有缘分见到他们，我也根本不知道有这个据点存在。”
“确实。”
莫度点头，“不是每个人都有幸进入至圣所的。”
嗯？
斯特兰奇忽然愣住了。
他刚才听到了什么。
至圣所？
为什么自己好像知道这个地方。
不会这么巧吧……
斯特兰奇试探着问道：“你说的那个至圣所，不会在布莱克街吧？”
莫度的表情忽然变得很奇怪：“你知道？至圣所就在布莱克街177号，很显眼的。”
不是吧！
斯塔兰奇忽然感觉有一种极度荒诞的情绪。
还没等他缓过神来，莫度就带他来到了一处修行所，
“这是我师父古一法师的圣殿。”
门打开，斯特兰奇根本没意思看里面的任何设施。
因为他一眼就看到了一个人。
在纽约借钱给自己买机票的人！
还有一更晚点发，码字速度变慢了