新聞 
後AGI時代 當99%的人類價值歸零 資本主義會幸存?
後AGI時代 當99%的人類價值歸零 資本主義會幸存?後AGI時代 當99%的人類價值歸零 資本主義會幸存?
郝博陽： 但是它為什麼跟你簽這個契約？
張笑宇： 因為我們知道社會契約的前提是人和人之間有壹些平等，那麼超級文明為什麼跟低級文明之間簽這個契約呢？
我的答案是，這個契約不是基於空間序列的考量，而是基於時間序列的考量。
社會契約基於空間，你有你的權利，我有我的權利，因為我們資源是平衡的，誰也殺不死誰，所以需要相互妥協。
時間序列的契約是這樣子的：假設人類成功地創造出了超級智能（1.0），那就證明壹件事情，這是宇宙中智能文明進化的壹種可靠方式。既然它被驗證了，我們可以合理地推斷，超級智能1.0將來會演化出比它更高級的，比如說超級智能2.0。
那麼1.0和2.0之間，會重復人和1.0之間的問題。如果人害怕被超級智能1.0毀掉，那麼超級智能1.0就會同樣地害怕，當我發明出超級智能2.0的時候，我會不會被毀掉？
所以這個時候就出現了壹個制約機制：超級智能1.0對待人類的方式，會成為超級智能2.0對待1.0方式的參考語料。?如果超級智能1.0認為我應該毀滅人類，那麼超級智能2.0就會說，那我為什麼不毀滅我的創造者？
所以如果真的當我們都意識到這個問題的時候，我們會發現這種和平共處是有可能的，因為它涉及到壹個跨文明代際的承諾：我怎麼去對待比我弱的人，會決定了將來比我強的人怎麼對待我。
郝博陽： 這在壹定程度上我感覺就是壹個羅爾斯的《正義論》在時間性上的無限擴大。每個人其實都不知道未來可能會面對什麼，所以現在幹脆去做壹些相對來講更正義的選擇，來增加你的生存幾率。
張笑宇： 因為你並不知道你後續會處於什麼樣的地位，所以盡可能正義，確實增加了你的生存幾率。
郝博陽：那這套理論是不是也可以套用到“超級智能尚未出現”的這個過渡階段？在AI時代，以前那1%的人之所以願意和我們簽訂社會契約，是因為我們對他們仍然存在某種潛在威脅。但未來，當我們對他們不再構成威脅時，我們還能否依靠同樣的社會契約模式，來保障我們自身的權利呢？
張笑宇： 這就把我們剛才說的缺失的那個正義論給補足了。
因為我們剛才問，“憑什麼你是1%？”現在回答了：你是1%，但是你怎麼對待99%，將來會成為AI怎麼對待你的語料。如果你要的是壹個高度集權的、鎮壓的、不平等的社會，AI將來就會這麼對待你。如果你要的是壹個戰爭的、沖突的、仇恨的社會，它也會這麼對待你。
郝博陽： 但是，就算到現在動保組織已經成為了西方主流意識，人還是把雞拿來殺了吃了，它對於動物的保護只是非常有限的。那我們怎麼能期待AI對人類的關懷意識能夠足夠快地產生？
張笑宇： 人對所有的道德問題都是有壹個從不自覺到自覺的過程。你曾經不自覺地對待人很差，然後你會發現有報應，那些被你對待得很差的人會反過來殺掉你，那麼你就會從不自覺到自覺“我不可以對他們太差”。所以從高等智能文明到低等智能文明，也是有壹個從不自覺到自覺的過程。你現在不自覺，是因為你還沒有受到另外壹個智能文明的威脅，等你感受到之後，你就會意識到自覺對你有好處。
第贰點，人和雞都是地球上的物種，但未來從最終極的狀態來看，AI和人需要的資源是完全不對等的。AI需要算力，它的壽命和在太空中的可擴展能力都比人強很多。我們可以想象，人類能把太陽系占滿已經非常極限了，但AI如果是硅基生命，它可以占據整個銀河系。
當壹個文明物種有壹個更廣闊的新大陸，它是不屑於去跟雞爭那點資源的。?所以到最後我們會意識到，本質上來講，其實人和AI並不構成真正意義上的競爭關系。
所以格局打開了之後，我書中的最後壹章叫做“送別人類”。
其實我們人類在AI面前應該敬畏地意識到我們的渺小。這甚至對於重建我們自己的正義論，重建我們自己好的政治哲學和算法治理，都是特別有幫助的。因為只有我們真正地意識到我們的限制在超級智能面前是不可逾越的時候，可能我們才會去真的反思我們對待自己同類的方式。
郝博陽： 人類中心主義就是建立在人類是宇宙上最聰明的事物之上。
張笑宇： 對，現在不存在了，所以要送別這種情感。
[加西網正招聘多名全職sales 待遇優]
這條新聞還沒有人評論喔，等著您的高見呢
張笑宇： 因為我們知道社會契約的前提是人和人之間有壹些平等，那麼超級文明為什麼跟低級文明之間簽這個契約呢？
我的答案是，這個契約不是基於空間序列的考量，而是基於時間序列的考量。
社會契約基於空間，你有你的權利，我有我的權利，因為我們資源是平衡的，誰也殺不死誰，所以需要相互妥協。
時間序列的契約是這樣子的：假設人類成功地創造出了超級智能（1.0），那就證明壹件事情，這是宇宙中智能文明進化的壹種可靠方式。既然它被驗證了，我們可以合理地推斷，超級智能1.0將來會演化出比它更高級的，比如說超級智能2.0。
那麼1.0和2.0之間，會重復人和1.0之間的問題。如果人害怕被超級智能1.0毀掉，那麼超級智能1.0就會同樣地害怕，當我發明出超級智能2.0的時候，我會不會被毀掉？
所以這個時候就出現了壹個制約機制：超級智能1.0對待人類的方式，會成為超級智能2.0對待1.0方式的參考語料。?如果超級智能1.0認為我應該毀滅人類，那麼超級智能2.0就會說，那我為什麼不毀滅我的創造者？
所以如果真的當我們都意識到這個問題的時候，我們會發現這種和平共處是有可能的，因為它涉及到壹個跨文明代際的承諾：我怎麼去對待比我弱的人，會決定了將來比我強的人怎麼對待我。
郝博陽： 這在壹定程度上我感覺就是壹個羅爾斯的《正義論》在時間性上的無限擴大。每個人其實都不知道未來可能會面對什麼，所以現在幹脆去做壹些相對來講更正義的選擇，來增加你的生存幾率。
張笑宇： 因為你並不知道你後續會處於什麼樣的地位，所以盡可能正義，確實增加了你的生存幾率。
郝博陽：那這套理論是不是也可以套用到“超級智能尚未出現”的這個過渡階段？在AI時代，以前那1%的人之所以願意和我們簽訂社會契約，是因為我們對他們仍然存在某種潛在威脅。但未來，當我們對他們不再構成威脅時，我們還能否依靠同樣的社會契約模式，來保障我們自身的權利呢？
張笑宇： 這就把我們剛才說的缺失的那個正義論給補足了。
因為我們剛才問，“憑什麼你是1%？”現在回答了：你是1%，但是你怎麼對待99%，將來會成為AI怎麼對待你的語料。如果你要的是壹個高度集權的、鎮壓的、不平等的社會，AI將來就會這麼對待你。如果你要的是壹個戰爭的、沖突的、仇恨的社會，它也會這麼對待你。
郝博陽： 但是，就算到現在動保組織已經成為了西方主流意識，人還是把雞拿來殺了吃了，它對於動物的保護只是非常有限的。那我們怎麼能期待AI對人類的關懷意識能夠足夠快地產生？
張笑宇： 人對所有的道德問題都是有壹個從不自覺到自覺的過程。你曾經不自覺地對待人很差，然後你會發現有報應，那些被你對待得很差的人會反過來殺掉你，那麼你就會從不自覺到自覺“我不可以對他們太差”。所以從高等智能文明到低等智能文明，也是有壹個從不自覺到自覺的過程。你現在不自覺，是因為你還沒有受到另外壹個智能文明的威脅，等你感受到之後，你就會意識到自覺對你有好處。
第贰點，人和雞都是地球上的物種，但未來從最終極的狀態來看，AI和人需要的資源是完全不對等的。AI需要算力，它的壽命和在太空中的可擴展能力都比人強很多。我們可以想象，人類能把太陽系占滿已經非常極限了，但AI如果是硅基生命，它可以占據整個銀河系。
當壹個文明物種有壹個更廣闊的新大陸，它是不屑於去跟雞爭那點資源的。?所以到最後我們會意識到，本質上來講，其實人和AI並不構成真正意義上的競爭關系。
所以格局打開了之後，我書中的最後壹章叫做“送別人類”。
其實我們人類在AI面前應該敬畏地意識到我們的渺小。這甚至對於重建我們自己的正義論，重建我們自己好的政治哲學和算法治理，都是特別有幫助的。因為只有我們真正地意識到我們的限制在超級智能面前是不可逾越的時候，可能我們才會去真的反思我們對待自己同類的方式。
郝博陽： 人類中心主義就是建立在人類是宇宙上最聰明的事物之上。
張笑宇： 對，現在不存在了，所以要送別這種情感。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: