新闻 
后AGI时代 当99%的人类价值归零 资本主义会幸存?
后AGI时代 当99%的人类价值归零 资本主义会幸存?后AGI时代 当99%的人类价值归零 资本主义会幸存?
郝博阳： 但是它为什么跟你签这个契约？
张笑宇： 因为我们知道社会契约的前提是人和人之间有一些平等，那么超级文明为什么跟低级文明之间签这个契约呢？
我的答案是，这个契约不是基于空间序列的考量，而是基于时间序列的考量。
社会契约基于空间，你有你的权利，我有我的权利，因为我们资源是平衡的，谁也杀不死谁，所以需要相互妥协。
时间序列的契约是这样子的：假设人类成功地创造出了超级智能（1.0），那就证明一件事情，这是宇宙中智能文明进化的一种可靠方式。既然它被验证了，我们可以合理地推断，超级智能1.0将来会演化出比它更高级的，比如说超级智能2.0。
那么1.0和2.0之间，会重复人和1.0之间的问题。如果人害怕被超级智能1.0毁掉，那么超级智能1.0就会同样地害怕，当我发明出超级智能2.0的时候，我会不会被毁掉？
所以这个时候就出现了一个制约机制：超级智能1.0对待人类的方式，会成为超级智能2.0对待1.0方式的参考语料。?如果超级智能1.0认为我应该毁灭人类，那么超级智能2.0就会说，那我为什么不毁灭我的创造者？
所以如果真的当我们都意识到这个问题的时候，我们会发现这种和平共处是有可能的，因为它涉及到一个跨文明代际的承诺：我怎么去对待比我弱的人，会决定了将来比我强的人怎么对待我。
郝博阳： 这在一定程度上我感觉就是一个罗尔斯的《正义论》在时间性上的无限扩大。每个人其实都不知道未来可能会面对什么，所以现在干脆去做一些相对来讲更正义的选择，来增加你的生存几率。
张笑宇： 因为你并不知道你后续会处于什么样的地位，所以尽可能正义，确实增加了你的生存几率。
郝博阳：那这套理论是不是也可以套用到“超级智能尚未出现”的这个过渡阶段？在AI时代，以前那1%的人之所以愿意和我们签订社会契约，是因为我们对他们仍然存在某种潜在威胁。但未来，当我们对他们不再构成威胁时，我们还能否依靠同样的社会契约模式，来保障我们自身的权利呢？
张笑宇： 这就把我们刚才说的缺失的那个正义论给补足了。
因为我们刚才问，“凭什么你是1%？”现在回答了：你是1%，但是你怎么对待99%，将来会成为AI怎么对待你的语料。如果你要的是一个高度集权的、镇压的、不平等的社会，AI将来就会这么对待你。如果你要的是一个战争的、冲突的、仇恨的社会，它也会这么对待你。
郝博阳： 但是，就算到现在动保组织已经成为了西方主流意识，人还是把鸡拿来杀了吃了，它对于动物的保护只是非常有限的。那我们怎么能期待AI对人类的关怀意识能够足够快地产生？
张笑宇： 人对所有的道德问题都是有一个从不自觉到自觉的过程。你曾经不自觉地对待人很差，然后你会发现有报应，那些被你对待得很差的人会反过来杀掉你，那么你就会从不自觉到自觉“我不可以对他们太差”。所以从高等智能文明到低等智能文明，也是有一个从不自觉到自觉的过程。你现在不自觉，是因为你还没有受到另外一个智能文明的威胁，等你感受到之后，你就会意识到自觉对你有好处。
第二点，人和鸡都是地球上的物种，但未来从最终极的状态来看，AI和人需要的资源是完全不对等的。AI需要算力，它的寿命和在太空中的可扩展能力都比人强很多。我们可以想象，人类能把太阳系占满已经非常极限了，但AI如果是硅基生命，它可以占据整个银河系。
当一个文明物种有一个更广阔的新大陆，它是不屑于去跟鸡争那点资源的。?所以到最后我们会意识到，本质上来讲，其实人和AI并不构成真正意义上的竞争关系。
所以格局打开了之后，我书中的最后一章叫做“送别人类”。
其实我们人类在AI面前应该敬畏地意识到我们的渺小。这甚至对于重建我们自己的正义论，重建我们自己好的政治哲学和算法治理，都是特别有帮助的。因为只有我们真正地意识到我们的限制在超级智能面前是不可逾越的时候，可能我们才会去真的反思我们对待自己同类的方式。
郝博阳： 人类中心主义就是建立在人类是宇宙上最聪明的事物之上。
张笑宇： 对，现在不存在了，所以要送别这种情感。
[物价飞涨的时候 这样省钱购物很爽]
无评论不新闻，发表一下您的意见吧
张笑宇： 因为我们知道社会契约的前提是人和人之间有一些平等，那么超级文明为什么跟低级文明之间签这个契约呢？
我的答案是，这个契约不是基于空间序列的考量，而是基于时间序列的考量。
社会契约基于空间，你有你的权利，我有我的权利，因为我们资源是平衡的，谁也杀不死谁，所以需要相互妥协。
时间序列的契约是这样子的：假设人类成功地创造出了超级智能（1.0），那就证明一件事情，这是宇宙中智能文明进化的一种可靠方式。既然它被验证了，我们可以合理地推断，超级智能1.0将来会演化出比它更高级的，比如说超级智能2.0。
那么1.0和2.0之间，会重复人和1.0之间的问题。如果人害怕被超级智能1.0毁掉，那么超级智能1.0就会同样地害怕，当我发明出超级智能2.0的时候，我会不会被毁掉？
所以这个时候就出现了一个制约机制：超级智能1.0对待人类的方式，会成为超级智能2.0对待1.0方式的参考语料。?如果超级智能1.0认为我应该毁灭人类，那么超级智能2.0就会说，那我为什么不毁灭我的创造者？
所以如果真的当我们都意识到这个问题的时候，我们会发现这种和平共处是有可能的，因为它涉及到一个跨文明代际的承诺：我怎么去对待比我弱的人，会决定了将来比我强的人怎么对待我。
郝博阳： 这在一定程度上我感觉就是一个罗尔斯的《正义论》在时间性上的无限扩大。每个人其实都不知道未来可能会面对什么，所以现在干脆去做一些相对来讲更正义的选择，来增加你的生存几率。
张笑宇： 因为你并不知道你后续会处于什么样的地位，所以尽可能正义，确实增加了你的生存几率。
郝博阳：那这套理论是不是也可以套用到“超级智能尚未出现”的这个过渡阶段？在AI时代，以前那1%的人之所以愿意和我们签订社会契约，是因为我们对他们仍然存在某种潜在威胁。但未来，当我们对他们不再构成威胁时，我们还能否依靠同样的社会契约模式，来保障我们自身的权利呢？
张笑宇： 这就把我们刚才说的缺失的那个正义论给补足了。
因为我们刚才问，“凭什么你是1%？”现在回答了：你是1%，但是你怎么对待99%，将来会成为AI怎么对待你的语料。如果你要的是一个高度集权的、镇压的、不平等的社会，AI将来就会这么对待你。如果你要的是一个战争的、冲突的、仇恨的社会，它也会这么对待你。
郝博阳： 但是，就算到现在动保组织已经成为了西方主流意识，人还是把鸡拿来杀了吃了，它对于动物的保护只是非常有限的。那我们怎么能期待AI对人类的关怀意识能够足够快地产生？
张笑宇： 人对所有的道德问题都是有一个从不自觉到自觉的过程。你曾经不自觉地对待人很差，然后你会发现有报应，那些被你对待得很差的人会反过来杀掉你，那么你就会从不自觉到自觉“我不可以对他们太差”。所以从高等智能文明到低等智能文明，也是有一个从不自觉到自觉的过程。你现在不自觉，是因为你还没有受到另外一个智能文明的威胁，等你感受到之后，你就会意识到自觉对你有好处。
第二点，人和鸡都是地球上的物种，但未来从最终极的状态来看，AI和人需要的资源是完全不对等的。AI需要算力，它的寿命和在太空中的可扩展能力都比人强很多。我们可以想象，人类能把太阳系占满已经非常极限了，但AI如果是硅基生命，它可以占据整个银河系。
当一个文明物种有一个更广阔的新大陆，它是不屑于去跟鸡争那点资源的。?所以到最后我们会意识到，本质上来讲，其实人和AI并不构成真正意义上的竞争关系。
所以格局打开了之后，我书中的最后一章叫做“送别人类”。
其实我们人类在AI面前应该敬畏地意识到我们的渺小。这甚至对于重建我们自己的正义论，重建我们自己好的政治哲学和算法治理，都是特别有帮助的。因为只有我们真正地意识到我们的限制在超级智能面前是不可逾越的时候，可能我们才会去真的反思我们对待自己同类的方式。
郝博阳： 人类中心主义就是建立在人类是宇宙上最聪明的事物之上。
张笑宇： 对，现在不存在了，所以要送别这种情感。
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： | 在此页阅读全文 |
推荐: