​生命自主 鸿运当头 生命自主的原则是指

生命自主 鸿运当头 生命自主的原则是指

一

20世纪的科技发展可以用两个词来总结：原子、字节。

21世纪前20年和目前可见的未来，也可以用两个词来总结：基因、人工智能。

站在智能爆炸的前夜，智人既兴奋又忧虑：

▪ 人类能否摆脱基因的束缚，化身上帝来自己设计生命？

▪ 人工智能是否最终会毁灭人类自身？

生存或毁灭，这是一个问题

二

在迈克斯·泰格马克14岁时，第一次知道了核军备竞赛，从那开始，他就一直在担心人类的技术力量比控制它的智慧增长的更快。

2014年，迈克斯·泰格马克创立了未来生命研究所，这个组织囊括了全球最顶级的人工智能科学家和企业家（包括马斯克、吴恩达等），目标是确保人工智能的技术发展对人类有益，而非有害。

泰格马克在《生命3.0》中介绍了自己的核心思想。全书基于人工智能技术的发展，展望未来人类自我进化的各种可能性，然后反推我们需要什么样的未来？有什么风险？如何利用人工智能实现目标又不会反噬人类自身。

作者的思维空间很宏大，在物理定律的最大极限内，推演从近未来到1万年乃至10亿年后人类的终极未来。作者同时做了大量的基础工作，重新定义了“生命”、“智能”、“目标”和“意识”，并澄清了常见的对人工智能的误解。

这本书兼具思考深度和科普性，可以帮助我们构建人工智能时代的全新思维框架。对于理工人来说是一部爽书，非理工专业的人读起来也不会觉得艰深，可读性很强，通俗易懂。

生命3.0

三

▪ 生命进化会经历哪些阶段？

作者根据生命设计自身的能力，把生命的发展分成三个阶段。

生命1.0（生物阶段）：靠进化获得硬件和软件，代表：微生物、细菌等；

生命2.0（文化阶段）：靠进化获得硬件，但大部分软件是由自己设计的，代表：人类；

生命3.0（科技阶段）：自己设计硬件和软件，代表：强人工智能。

生命1.0出现在约40亿年前，生命2.0出现在约10万年前，生命3.0目前还没有出现。

如果环境发生改变，生命1.0只能通过多代进化来缓慢适应新环境，而生命2.0却可以通过软件升级来立刻适应新环境。比如，如果细菌总是遇到抗生素，就可能在许多代之后进化出抗药性，但是单个细菌并不会改变自己的行为；相反，一个女孩如果知道自己对花粉过敏，就会避免接触花粉。这种灵活性让生命2.0统治了地球。

在过去5万年中，人类DNA中存储的信息并没有发生什么大的变化，但是存储在我们大脑、书籍和计算机中的知识总量却在以越来越快的速度增长，仿佛发生了爆炸。

但是尽管我们拥有强大的科技能力，从根本上来说，我们所知的所有生命形式都依然受到生物“硬件”的局限。没有人可以活100万年，没有人可以理解所有已知的科学知识，也没有人可以在不依赖航天器的情况下进行星际航行。而许多人工智能研究者认为，生命3.0可能会在一个世纪以内降临。

生命进化的三个阶段

四

伤害人类不一定需要恶意

▪ 人工智能会对人类产生恶意吗？

我们真正应该担心的不是它们有没有恶意，而是它们的能力有多强。举个例子，如果你被一辆无人驾驶汽车撞倒，它有没有主观意识对你来说没什么差别。

一个超级智能会非常善于实现自己的目标，因此，我们需要做的是确保它的目标与我们的一致。比如，你可能并不讨厌蚂蚁，也不会出于恶意踩死蚂蚁。但如果你正在负责一个水电项目，在即将淹没的区域里有一处蚁穴，那么，这些蚂蚁就凶多吉少了。我们的目标就是要避免人类处在这些蚂蚁的境地。

▪ 超级人工智能很快就会出现吗？

它发生的时间可能是几十年、几百年，或者永远都不会实现，人工智能专家各执一词，作者对专家做了一次调研，答案的平均数是2055年，但是没有人知道真正的答案。

它至少还有几十年到来，而我们目前需要做的是确保它是安全的，我们必须在它到来之前做好准备。