新聞 
後AGI時代 當99%的人類價值歸零 資本主義會幸存?
後AGI時代 當99%的人類價值歸零 資本主義會幸存?後AGI時代 當99%的人類價值歸零 資本主義會幸存?
我們再進壹步推，對於所謂的信息繭房，我們真的捫心自問，有多少人真的不想要信息繭房？其實人都是壹種特別習慣待在自己思想舒適區的生物。
所以當你在批判信息繭房的時候，有沒有想過，在那個無偏私的審判者面前，其實你就配得到壹個信息繭房？
所以我覺得，當我們去開始討論正義論的時候，我們會發現當算法治理完成的壹刹那，我們整個人類的審判隨之而來。
我們去講利維坦（人類君主）有問題的時候，其實蘊含著壹個假設，是君主可以以他個人的欲望和權力意志來隨意地對待我們。但是AI並不是以他的權力和意志來隨意對待我們，它就是按照我們的欲望來對待我們。
郝博陽： 但是現在之所以會有信息繭房，壹方面也是因為公司本身想要讓你在它的App上留更多時間，以便它獲得更高的商業利益。它在這個過程中用了很多方法。
張笑宇： 我覺得這種“trick”（詭計）的元素肯定是存在的。但是只要第壹你給它時間，第贰它不是壹家公司壟斷，而是不同的公司在競爭，那麼公司的競爭之間肯定會出現推薦算法的進步。長期來看，肯定是推薦算法越先進、那個越了解你需求的會勝出。
郝博陽： 按你說的這個邏輯，信息繭房好像是必然的結果。
張笑宇： 對，因為還是我們剛才說那句話，在這個世界上錢是最嚴肅的東西。只要在這個過程中推薦算法的指導規則是錢，我覺得最後它就會湧現出那個對所有人來說都更加匹配“you deserve it”（你應得的）的那種狀態。
郝博陽： 你的表述中有壹個無限外推的邏輯，好像我們最終不知道該去指責誰了，只能接受“是什麼”，而沒有辦法說“憑什麼”。
張笑宇： 第壹個問題是，困在算法裡的本質，我認為不是外賣平台用算法把你困住了，而是你生活中的另外壹部分——比如你的工作福利或者勞動權利——沒有被推薦算法給很好地照顧好。如果有很多系統來競爭，誰給你的福利和勞動權利更多，你就選擇誰，我相信這壹塊你會很快感受到壹個很舒服的狀態。
所以當我們在說去問責誰的時候，我們很容易去問責那個大家都看得到的，而非大家沒有看到的那部分。但是當你真的用推薦算法設想，當整個國家被超級平台“吃掉”的時候，你應該設想的是，所有部門、所有指標都用了推薦算法之後，那個狀態是什麼樣子。
郝博陽： 是壹個無偏私的，真的對你的福祉、對你的欲望負責的AI系統？
張笑宇： 這壹塊本身是我們技術上可以做到的。但真到了那個時候，最終的結果是來自於你當下自己的所作所為。如果你認為人類就是配被壓榨，AI將來就會用這個語料來壓榨你。如果你認為人類就是配得到壹個國家之間互相沖突的世界，那AI就會認為你是壹種這樣的動物。如果你是壹個希望用愛來填充彼此空間的人，那AI也會覺得這個物種需要壹種特別重要的資源叫“愛”，它也會用這種方式來對待你。
我覺得可能在你沒有這種無偏私的外部審判者的時候，你不會去想這個問題。但你的行為，其實是會受到今天AI的審判的。你自己是要承擔這個道德責任的。
6. 後AI時代的新社會契約：在時間序列上重塑羅爾斯正義論
郝博陽： 那在壹定程度上，我們可以用“對齊”這樣的方式來解決它，而不是單純從語料訓練來做。
張笑宇： 這就到了我的另壹個技術原則，叫做超級智能。因為“對齊”的本質，我認為至少從目前來講，是你用低級智能（人類）去要求高級智能（AI）。假設我們認為技術長期來看是能夠繼續突破的，我也相信它是壹定能突破的，超級智能有壹天是會到來的。
真的當它的智能水平比我們高的時候，你會發現你不可能用你的道德規則去要求它，就像猴子不能用自己的社會規則去要求人壹樣。
這就涉及到我書的最後壹部分，就是超級智能憑什麼跟我們和平相處？有壹些AI毀滅論者認為，AI本質上永遠比人類高級，那個時候它不需要對你有惡意，它只要不關心你，你就會被它毀滅。就像人蓋房子，不會關心這個地方曾經有壹窩螞蟻，他就把螞蟻的洞穴給摧毀了。
那螞蟻有辦法約束人嗎？永遠沒有辦法。
所以這個問題是說，當你低級智能真的沒有辦法約束高級智能，而高級智能又必然要出現的時候，雙方和平共處的基礎在哪裡？
我把它叫做文明契約。
[加西網正招聘多名全職sales 待遇優]
還沒人說話啊，我想來說幾句
所以當你在批判信息繭房的時候，有沒有想過，在那個無偏私的審判者面前，其實你就配得到壹個信息繭房？
所以我覺得，當我們去開始討論正義論的時候，我們會發現當算法治理完成的壹刹那，我們整個人類的審判隨之而來。
我們去講利維坦（人類君主）有問題的時候，其實蘊含著壹個假設，是君主可以以他個人的欲望和權力意志來隨意地對待我們。但是AI並不是以他的權力和意志來隨意對待我們，它就是按照我們的欲望來對待我們。
郝博陽： 但是現在之所以會有信息繭房，壹方面也是因為公司本身想要讓你在它的App上留更多時間，以便它獲得更高的商業利益。它在這個過程中用了很多方法。
張笑宇： 我覺得這種“trick”（詭計）的元素肯定是存在的。但是只要第壹你給它時間，第贰它不是壹家公司壟斷，而是不同的公司在競爭，那麼公司的競爭之間肯定會出現推薦算法的進步。長期來看，肯定是推薦算法越先進、那個越了解你需求的會勝出。
郝博陽： 按你說的這個邏輯，信息繭房好像是必然的結果。
張笑宇： 對，因為還是我們剛才說那句話，在這個世界上錢是最嚴肅的東西。只要在這個過程中推薦算法的指導規則是錢，我覺得最後它就會湧現出那個對所有人來說都更加匹配“you deserve it”（你應得的）的那種狀態。
郝博陽： 你的表述中有壹個無限外推的邏輯，好像我們最終不知道該去指責誰了，只能接受“是什麼”，而沒有辦法說“憑什麼”。
張笑宇： 第壹個問題是，困在算法裡的本質，我認為不是外賣平台用算法把你困住了，而是你生活中的另外壹部分——比如你的工作福利或者勞動權利——沒有被推薦算法給很好地照顧好。如果有很多系統來競爭，誰給你的福利和勞動權利更多，你就選擇誰，我相信這壹塊你會很快感受到壹個很舒服的狀態。
所以當我們在說去問責誰的時候，我們很容易去問責那個大家都看得到的，而非大家沒有看到的那部分。但是當你真的用推薦算法設想，當整個國家被超級平台“吃掉”的時候，你應該設想的是，所有部門、所有指標都用了推薦算法之後，那個狀態是什麼樣子。
郝博陽： 是壹個無偏私的，真的對你的福祉、對你的欲望負責的AI系統？
張笑宇： 這壹塊本身是我們技術上可以做到的。但真到了那個時候，最終的結果是來自於你當下自己的所作所為。如果你認為人類就是配被壓榨，AI將來就會用這個語料來壓榨你。如果你認為人類就是配得到壹個國家之間互相沖突的世界，那AI就會認為你是壹種這樣的動物。如果你是壹個希望用愛來填充彼此空間的人，那AI也會覺得這個物種需要壹種特別重要的資源叫“愛”，它也會用這種方式來對待你。
我覺得可能在你沒有這種無偏私的外部審判者的時候，你不會去想這個問題。但你的行為，其實是會受到今天AI的審判的。你自己是要承擔這個道德責任的。
6. 後AI時代的新社會契約：在時間序列上重塑羅爾斯正義論
郝博陽： 那在壹定程度上，我們可以用“對齊”這樣的方式來解決它，而不是單純從語料訓練來做。
張笑宇： 這就到了我的另壹個技術原則，叫做超級智能。因為“對齊”的本質，我認為至少從目前來講，是你用低級智能（人類）去要求高級智能（AI）。假設我們認為技術長期來看是能夠繼續突破的，我也相信它是壹定能突破的，超級智能有壹天是會到來的。
真的當它的智能水平比我們高的時候，你會發現你不可能用你的道德規則去要求它，就像猴子不能用自己的社會規則去要求人壹樣。
這就涉及到我書的最後壹部分，就是超級智能憑什麼跟我們和平相處？有壹些AI毀滅論者認為，AI本質上永遠比人類高級，那個時候它不需要對你有惡意，它只要不關心你，你就會被它毀滅。就像人蓋房子，不會關心這個地方曾經有壹窩螞蟻，他就把螞蟻的洞穴給摧毀了。
那螞蟻有辦法約束人嗎？永遠沒有辦法。
所以這個問題是說，當你低級智能真的沒有辦法約束高級智能，而高級智能又必然要出現的時候，雙方和平共處的基礎在哪裡？
我把它叫做文明契約。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: