精英日课-道可道非常道

2023年3月15日,沃尔夫勒姆在自己的网站发表了一篇充满洞见的宝藏文章,展望了AI对人类社会 的影响。理解了沃尔夫勒姆的关键思想,你就会生出一种对未来世界的掌控感。

这篇文章包括三个核心观念:

  • 计算不可约性
  • 计算等价原理
  • 人的价值在于历史

计算不可约性

概念

首先说一下什么叫约化。约化是用一个浓缩的陈述——可以说是一个理论、或者一个公式——概括一个现象,是对现实信息的压缩表达。我们的一切自然科学、社会科学理论,各种民间智慧、成语典故,我们总结出来的一切规律,都是对现实世界的某种约化。

你可能希望科技进步能约化一切现象,但现实恰恰相反。数学家早已证明,真正可约化的都要么是简单系统,要么是真实世界的一个简单的近似模型。一切足够复杂的系统都是不可约化的。比如三体问题。

因为计算不可约性,人类对世间万物的理解是不可穷尽的。这意味着不管科技多么进步、AI多么发达,世界上总会有对你和AI来说都是全新的事物出现,你们总会有意外和惊喜。

计算不可约性规定,人活着总有奔头。

特点

伴随计算不可约性的一个特点是,在任何一个不可约化的系统之中,总有无限多个「可约化的口袋 (pockets of computational reducibility)」

这就意味着,虽然世界本质上是复杂和不可预测的,但我们总可以在里面做一些科学探索和研究,总结一些规律,说一些话,安排一些事情。绝对的无序之中存在着无数个相对的秩序。

而且既然可约化的口袋有无限多个,科学探索就是一门永远都不会结束的事业。

意义

计算不可约性还意味着,我们不可能彻底“管住”AI。

未来AI跟我们真正的关系不是降临、不是拯救也不是幸存,而是「共存」。我们要学习跟AI共 存,AI也要也跟我们、跟别的AI共存。

计算不可约性说明,凡是能写下来的规则都不可能完全限制AI,凡是能发明的操作都不可能穷尽社会 的进步,凡是能总结的规律都不是世界的终极真相。

这就叫「道可道,非常道」。

计算等价原理

沃尔夫勒姆的第二个核心观念叫「计算等价原理(Principle of Computational Equivalence)」,意思是所有的复杂系统,不管看起来多复杂,都是同等复杂的,不能说哪个系统比哪个系统复杂。

每个真有学问的人都应该是一个「不特殊论者」。 以前的人以为人是万物之灵长,地球是宇宙的中心,后来发现地球不是宇宙的中心,人类也只是生命演化的产物,我们的存在没有什么本质的特殊之处。

现在AI模型则告诉我们,人的智力,也没有什么特殊之处。任何一个足够复杂的神经网络都是跟人的大脑同等复杂的。不能说人能理解的科学理论就高级,AI识别药物分子的过程就低级。

既然都是平等的,那硅基生命和碳基生命自然也是平等的。那面对AI,我们凭什么认为自己更有价值?

人的价值在于历史

这就引出了沃尔夫勒姆的第三个核心观念:人的价值在于历史。

ai和人的根本区别是什么?是历史。人类有历史,并且有由历史确定的价值观。而AI没有历史,没有价值观。AI需要“对齐”人类的价值观。

习惯让人适应

快乐需要间隔,痛苦要一气呵成。 因为习惯会让人适应。 快乐我们不希望适应,但是痛苦我们希望适应。