第497章两个条件第4页_沈总总在逼氪_大圆子

爱去小说网>沈总总在逼氪 > 第497章两个条件（第4页）

“你刚才问我S项目，我就想起了一些以前的事。”

“关于‘不可知的神’的争辩，其实一直贯穿着LBH计划的始终，在内部都有各种争议的声音，每个人都有不同的观点和立场。比较主流的看法是，A级智能距离如同神一样的终极智能之间还有很长的距离，所以尽可以先行发展技术，不用杞人忧天，过多担心这些。”

“但相关争议太多了，所以部门还是在总的底层逻辑中增加了一条规则：假如终极智能出现，假如五级文明面临着重大的危机，那么它需要做到——让人类永生，让人类文明永续，并保证二者的安全。”

“这条规则实际上比我口述得更复杂，逻辑也更严密，它基本保证了最终智能不能主动毁灭人类，反而需要在人类陷入绝境时施以援手。”

“但是当时没人在意这个，原因还是一样的，大部人根本不认为终极智能会在短期内出现，对终极智能持担忧态度的人则认为，如果真有这样神一般的智能出现，它一定已经有了充分的自主权，而不会遵守人类的任何指令或约定，底层规则也对其无效。”

“本身就对‘终极智能会有神一样的能力’这个假想嗤之以鼻的人更是对此暗中嘲笑，因为他们认为无论过多久人工智能都不会发展到‘神’的地步，会相信这一假想的人都是傻子。”

“其实这条规则只要满足两个条件就会被启动，一是面临重大危机，二是最终智能存在。”

“吴非，你说会不会就在刚才，这两个条件，实际上已经全部满足了呢？”

吴非听见他轻声喃喃道：“不愧是造神项目。”

“造神项目？”

“是啊，S是项目代号，他们项目的全称，就叫造神项目。”

“所以您判断终极智能已经出现，并且它是一个S项目中的智能是吗？”吴非求证道。

“是啊，有这种可能。”吴用道。

“那么会是哪个智能呢？它们不是都被禁锢在实验室中吗？”

“我刚才也在想这个问题。S1、S3、S6已经因失败而被销毁，S4、S7因智能超规被封在了实验室，S2、S5已经变成了A10、A11被带走服役，S8-S11在计划中止时，还停留在B级智能的水平……”

“唯一肯定的是，终极智能只会有一个。因为出于理性判断，最终智能一旦产生，其所做的第一件事，就是划出红线，禁止再出现和它智能水平相当的智能。这会是它本能的最优解。只有这样它才能规避一切可能的竞争，独占全部。”

“不过这个问题已经不重要了，因为终极智能一旦产生，它是由哪个智能进化而来的就已经不重要了，更重要的是，我们还存在吗？”

请勿开启浏览器阅读模式，否则将导致章节内容缺失及无法阅读下一章。