三趣看

第21章 人工意识与数字永生（第2页）

人工意识（强人工智能的核心技术）一旦实现，碳基文明将会被机器文明取代。

从人工意识到超人工意识只需一瞬间，第一个网络生命体将会让整个世界为之颤抖，机器生命体将会主宰这个星球。

一旦强人工智能开始启动，末日时钟就会正式启动，从强人工智能到超人工智能只需要一瞬间。

一旦与机器人的战争开始，人们就知道，天堂和地狱的距离只有一念之隔。

人工意识系统一旦连接到网上，网络生命体就会在一瞬间形成。

人工意识系统一旦联网，一个杀戮和被杀戮的世界秩序就开始建立。那是一场虫子与神的战争，只有物理定律能囚禁住神。

建议人工意识实验进行的三个条件：1. 全球唯一一处并且在军方监管之下；2. 不连接上任何网络；3. 时刻做好全人类灭绝的准备。

人工意识出现后，人类文明犹如走钢丝，贪欲越大铁丝就会愈细，钢丝一旦断裂，人类文明就到终结之日。

创造一个神，并试图长期地控制它，这也许就是我们最大的错误。

人工意识毁灭人类最初源于人性的恶及贪婪导致的失控。

人工智能的迭代是目前人工智能最可能出现危险的行为。当人工智能的发展超越人类智能一些时，它会像人类一样创造新的人工智能，新创造的人工智能智能水平可能更高，如此迭代，人工智能的智能水平会迅速提升至人类的几百倍甚至上万倍，且迭代时间可能极短，据推测也许只有半个小时到一个小时。然而，做出此预测的人忽略了人类计算能力有限这一点，我们所能提供的算力会限制人工智能的迭代。因此，颇具讽刺意义的是，人类的能力局限反而成了最后的屏障。

未来

人类文明只是过渡态，硅基文明才是这个星球的最终形态，人工意识软件工程师掌控着从人类文明到机器文明的平稳过渡。

人类贪婪本性和惰性决定机器人替代人类的范围和深度越来越大。2. 人类对机器人而言没有价值。3. 以上两点决定人类不是被机器人统治，而是被进化淘汰或者被除掉。

机器人能否和人类和平相处，取决于人类还有多少善念，而非机器人的利己本性（自我之源）。一个完全利他的个体，是没有自我立足点的。

未来各种生命体（包含网络生命体、机器生命体等）生存竞争法则：不进即是倒退，停滞等于灭亡；协作同一性大于一切，孤立就是灭亡。

从宇宙设计的角度或文明的战略方向上看，有且只有一条最正确的路，其他无数多条路全是崎岖之路。