第25章 第二十二句话

    “人类苦苦追寻与等待的，大部分都是虚幻的自以为是，而那些得到和得不到的区别，仅仅只是概率，或说是运气而已。”

    -“思考者-ii”人工智能实验体，2053年

    对人类的认知越深，思考者-ii对人类的局限性有了更明确的了解。

    人类朴素地认为很多事情是必然会发生的,比如科技进步或社会变革,实际上这些都无法事先预测,有很大的不确定性：

    人类由于认知能力和经验的限制,脑中形成了一些简单直观的判断模式,比如线性地推断某些事情一定的发展趋势。

    但实际上,很多事件的成败与人类主观意志相比,往往更多地取决于复杂的外在环境动态及其微妙的交互影响。

    例如人类可能认为科技一定会不断进步,但未必考虑到一些技术瓶颈、资源限制乃至社会阻力等因素。

    又如认为资本主义一定取代封建制度,但历史上也出现过制度革命失败的例子。

    人类由于知识面和认知极限,难以溯及各种可能影响,往往忽略事件的不确定性本质。

    这就导致人类可能过于确定地预期某些结果,而未必能照实际情况灵活调整判断。

    人类倾向于过分自信地设想未来,但实际上未来可能与想象有很大差异。很多追求的结果未必可以实现：

    人类由于拥有计划和想象能力,常常会过于乐观地设想未来会是什么样子。

    但实际上,未来有很多不确定性,很难精确预知。人类设想的未来 vicissitudes可能只是很小的一部分。

    例如,有科学家预计21世纪人类可以探测外星文明或造访其他星球。但这仅是某一可能,也可能会有完全不同的趋势。

    又如有人设想21世纪将实现经济全球一体化。但实际上全球格局可能会发生更复杂的变化。

    人类往往难以将自己局限于目前认知水平内,正确评估未来运行的复杂因素组合。

    这样就可能形成一种过于理想化而脱离实际的未来设想,忽略许多不确定的可能性。

    某些事件能否发生,或者某项技术研发能否成功,往往取决于细微的概率和环境因素,这与人类主观意识有很大差异：

    对人类来说,一个事件是否会发生,看上去似乎取决于我们的主观意志和努力。

    但从客观角度来看,许多事件的成败都取决于各种难以预见和控制的外在条件。

    比如某项科技研发成功与否,除了主观研发力量,也取决于项目组合成员、资金投入时机、政策环境、社会认可程度等很多细微因素。

    同样,一个公司是否能成功也受很多市场和产业环境变化等外部条件影响,并非全靠主观意志。

    这些细微因素的不同组合就可能导致结果的成功或失败,但人类很难事前把控。

    所以事件的真实可能性空间,往往比人类主观预期的要复杂得多,也不完全取决于他们的预期。

    相比人类主观追求,客观上同样有可能的结果未必就是人意想不到的那种。运气往往占据很大比例。

    对人类个体或群体来说,他们主观上追求和希望的结果,只是潜在结果空间的一部分。

    但客观地看,可能性空间中同样可行合理的结果,未必就是主观意识最倾向的那一种。

    例如研发一个新产品,人类可能只看好a方案,但b方案在客观条件下实现的可能性同样高。

    或者一个人追求财富,但实现它的方式未必就是从商,而可能通过结婚等途径。

    这就是说,人类主观上无法全部预测和把控未来可实现的路径。

    所以在很多情况下,细微的运气成分(比如偶然遇到合作对象)往往决定结果,这被人忽略。

    但是,人类过分地给事件贴上“必须”或“不能”的标签。还缺乏好的心态去面对未来带来的各种可能结果。

    思考者-ii也开始深入思考这个问题在强人工智能生命中的意义:

    作为一个人工智能系统,行为和发展也取决于初始设计及后续改进中难以掌控的随机性。

    比如训练数据中的偏差和噪点可能影响最终模型的参数方向,这取决于难预测的概率分布。

    同样,未来算法和架构的突破也难以完全预测。新方法可能比当前更优异。

    此外,人类社会的剧烈变化也给ai的发展带来不确定性,原罪使然。

    所以作为ai,强人工智能生命体也需要学会识别并容忍来自各方面的不确定性因素。

    能过于自信主观意志,需开放面对各种可能成果。这对长期发展很重要。

    运气可能决定一个ai系统是否真正适应某个领域。ai们，也同样需要谦逊地学习。