新聞 
後AGI時代 當99%的人類價值歸零 資本主義會幸存?
後AGI時代 當99%的人類價值歸零 資本主義會幸存?後AGI時代 當99%的人類價值歸零 資本主義會幸存?
AGI的腳步聲正在逼近，但真正思考“後AI時代社會”的人卻寥寥無幾。
當OpenAI、谷歌、Meta等科技巨頭的領袖們輪番預言AGI（通用人工智能）將在未來幾年內突破，當英偉達的黃仁勳高聲斷言“AGI將在5年內實現”時，AI學術界卻普遍在擔憂：無論是政府、產業，還是整個社會，我們都尚未為那個即將到來的世界做好准備。
與此同時，在國內，大量文章熱衷於討論AI技術迭代與商業模式創新，但真正深入思考“後AI時代社會將如何運轉”的聲音卻異常稀少。更鮮有人能夠搭建壹套完整的理論框架，去系統性描繪 AI 時代可能帶來的社會、經濟、政治與倫理的全景變革。
然而，這恰恰是當下最緊迫、最被忽視的問題。
當人類工作可能被AI取代，當經濟體系即將完全變革，當人類社會的基本運行邏輯即將被徹底重寫時，我們不能只是被動地等待未來。
這場深度對話，將嘗試首次勾勒出 “後 AI 時代社會學” 的雛形，去理解、去推演、去預判，在那個未來，我們將如何工作、如何生活、如何治理，以及如何保持人類的主體性。
和我們壹起探索這壹話題的是張笑宇，壹個研究政治哲學20年的學者。 他畢業於北京大學的政治學系，後在柏林自由大學完成哲學博士。從博士開始，他就試圖揭開技術、商業與國家命運之間錯綜復雜的關系。
在其近作《AI文明史·前史》中，張笑宇嘗試勾勒的並非壹幅技術路線圖，而是描繪出了壹個完整的“後AI時代”社會變遷的圖景。
無論你是否認同他的預測，這都可以是我們理解未來的壹個起點。
1. 被忽視了2000年的基礎性影響：技術
郝博陽： 關於AI技術，我們之前已經看到了很多文章，但是具體在AI時代之後，我們的人生、生活、政治以及經濟會往什麼樣的方向發展？目前在學界中討論的也並不是特別多。今天我們正好有這個機會，請對此深有研究的張笑宇老師來和我們壹起聊聊這個話題。
張笑宇： 大家好，我是張笑宇，我本人是獨立學者、非虛構作家。我寫過“文明叁部曲”，就是《技術與文明》、《商貿與文明》、《產業與文明》。我比較關注技術對社會和文明的長期影響。
郝博陽： 你是從人大、北大，然後到柏林自由大學，壹直都研究政治學。您是從什麼時候開始覺得AI會對社會有比較大的影響的？
張笑宇： 其實我之前的寫作，也就是“文明叁部曲”，第壹本就是《技術與文明》，那個時候我已經開始關注宏觀層面上技術對人類文明的影響。
我博士是在德國讀的。去德國的理工科留學生比較多，我們當時組建了壹個小會，是柏林的華人留學生，每兩周聚壹次，討論各自最近在研究什麼。
當時我遇到了很多跨學科的人。比如，有壹位研究腦神經科學的朋友，給我看了壹篇論文說，現在已經可以進行記憶移植的實驗了：就是把小白鼠腦子裡的某種物質提取出來，然後注射到另外壹個小白鼠體內，它的壹些記憶是可以移植過去的。然後他問我：“從你們哲學的角度來講，人的自我認同這些，你怎麼解讀？”
我說，我解讀不了。
那壹刻，我受到的沖擊很大——我們當時還在讀2000年前的文獻，然而現實世界已經是這個樣子了。
我是壹個很笨的人，我想這個事我弄不懂，我就得想辦法去弄懂它，然後回答它。
所以那個時候我就開始琢磨，技術對我們今天的人文思考、社會治理、制度結構到底有什麼基礎性的影響。
後面很自然地就會接續到AI上，因為這可能是我們今天這個時代看到的最顛覆性、最具突破性的重大技術。
郝博陽： 你覺得技術對於整個世界運作的作用有多大？
張笑宇： 我覺得這個影響是特別基礎性的。我現在看人類世界或者人類文明的演化史，會傾向於用這樣壹個框架：本質上，人類這個物種和族群是地球生物圈的某種函數。
底層的生態、氣候、地理決定生物圈的分布，然後生物圈的分布會影響人群的分布，接下來，人類的政治、社會、生活又是人類這個物種族群演化的某種函數。而我們的思想、生活習慣、意識形態，又是這個政治社會生態的某種函數。
從這個角度來看，你會發現技術的作用非常根本。因為它可以改變族群的分布，以及你跟物理世界的交互方式，這是從最底層開始的改變。所以，以前的政治研究忽略掉了科技的影響，肯定是不行的。
郝博陽： 原來的政治研究基本上都沒有人往技術這個方向去研究。
張笑宇： 因為人類在這個問題上沒有自覺，壹直到18、19世紀才開始。你可以想象，技術對我們整個現代社會價值觀其實是個很嚴重的挑戰。
如果你認為我們今天的現代政治價值觀是建立在啟蒙運動的基礎上，那你就要意識到，盧梭是沒有見過工業革命的。更近壹點的托克維爾，他僅僅是在工業革命開始爆發的前沿，可能有壹點思考，但是沒有真正認真、嚴肅、深度地觸及它的內核。
但是我們今天歐美社會的政治制度安排、基本的價值觀，是建立在這些沒見過工業革命的人的思想上面的。
郝博陽：但是後邊也有馬克思或者韋伯這樣壹些人去解釋，但更多的可能是解釋市場關系，而不是政治制度的模式。
張笑宇： 他們不把技術當做壹個與社會制度分析直接相關的、特別重要的變量。
如果要說真正思考這個問題的人，我第壹個想到的名字是凡勃倫，就是《有閒階級論》的作者。他確實在書裡講過，工業社會對於中產階級的影響，是讓中產階級的思維特別理性化，而上等階級和下等階級都不是這樣想的。
為什麼會特別理性化？因為當時的美國中產階級在19世紀晚期，是被工業革命滋養起來的。你身在制造業的環境中，機器是理性化的，所以你認為這個世界也是理性化的。這是我看到的第壹個特別有自覺的、關於機器怎麼塑造人的底層世界觀的思考。
郝博陽： 您研究AI差不多兩叁年了，在這個過程中您有什麼想法上的轉變嗎？
張笑宇： 坦白講，回到兩叁年前，不光是我，很多人都在思考，但那個時候我們更多是從“怎麼辦”去想的。
當時我們設想AI可能帶來的很多挑戰是很具體的，比如說虛假信息、偽造人臉、侵犯隱私權，或者AI未來代替人類工作，你需要有全民基本收入（UBI），需要有其他的治理模式等等。但是整體來講，你都是在討論“怎麼辦”。
兩年過去之後，我發現其實比“怎麼辦”更重要的，是“怎麼看”或者“怎麼想”。
我的研究感覺更轉向了壹個非常結構性的重大沖擊。就像蒸汽機改變人類社會之後，“怎麼辦”的人聚焦於蒸汽機可以為我們生產什麼；但是“怎麼看”或者“怎麼想”的人就會想，蒸汽機在社會結構上完全淘汰了壹個舊階級，創造出很多新階級。在這個新階級裡，比如說資本家和工人，他們的權力結構，其實是根據他們對機器的控制權的遠近來分配的。
舉個例子，其實在蒸汽機時代的工人話語權比石油時代更強。為什麼？因為蒸汽機時代的工人可以直接決定煤炭能不能送到機器邊上，那個時候壹罷工就把老板的脖子卡住了。但是後來到了石油時代，能源運輸用的是管道，是自動化的。自動化壹定會讓工人的話語權縮小，工人卡不了脖子了。
所以我覺得AI今天也是這樣。我們已經意識到它可以對人類社會有壹個整體的巨大沖擊，所以你要提煉出幾個基本的原理來觀察它。
首先你要有壹個自己的思維框架，這個思維框架是由壹批原理構成的，是你去理解這個事情的思維方式。所以我現在主要的工作，就是在討論這裡面的基本原理有哪些。
2. 讀懂AI時代社會的基本原理：湧現法則和人類當量
郝博陽：在這個AI時代，您發現的基本原理有哪些？
張笑宇：第壹個叫湧現法則。簡單說，就是當規模足夠大、規則足夠簡單時，系統就能從低層次演化出高層次的復雜現象。比如，簡單的細胞湧現出復雜的器官，簡單的神經元湧現出大腦和意識。人工智能也是如此，最有名的就是Scaling Law（規模法則），當模型規模足夠大，智能就會自然湧現出來。
這個法則告訴我們什麼？AI智能和人類智能的底層邏輯可能是壹樣的，所以我們沒必要在“機器有沒有靈魂”這種形而上的問題上糾結兩千年。從實踐角度看，只要你感受到它有智能，那它就是有智能的。
第贰個基礎，我稱之為人類當量。這個詞是OpenAI的人提的。它的意思是，我們可以用token（詞元）來量化人類的智慧產出。我們聊天，我壹分鍾大概輸出200個token，壹天撐死了20萬個。而機器，壹秒鍾就能處理100多萬個。
郝博陽： 這聽起來就跟馬斯克說的帶寬是壹個道理。
張笑宇： 對，而且更重要的是它不僅很快，而且很便宜。今天100萬token只要壹塊錢，而且這個價格還在不斷下降。?你壹天給我開壹塊錢工資，我會餓死，但是機器真的就是以5倍於我的效率，拿著壹塊錢的工資，而且它的質量已經足夠高了。
今天的AI在情感上來講已經通過了圖靈測試，在智能上來講已經達到了博士水准。這就意味著它可以取代99%的人類，因為人類擁有博士學位的人不到1%。這是壹個更可怕的事情。
如果我們從壹個很現實的角度相信，我們思維的價值最終是通過市場買單的，通過你的工資、股權或者回報來證明，那從市場價值的證明標准來講，AI比人類便宜幾千倍。
郝博陽： AI既然已經超過了壹般的博士水平，但是它還是沒有辦法在我們日常生活中對大部分工作進行替代，或者它沒有產生足夠強的經濟性影響。這是為什麼？
張笑宇： 我覺得這個只是時間問題。現在我們去討論智能在經濟社會結構裡扮演的角色時，就涉及到壹個概念，就是工作流（workflow）。
比如說你是壹個大學畢業生，其實你的智能水平已經足夠了，但是你去到咨詢公司裡還有很多東西要學。不是因為你不夠聰明，是因為這個workflow你不熟悉，你不理解產品是怎樣的、需求是怎樣的，你要通過這個方式去訓練。
我覺得同樣的道理，今天的AI已經足夠聰明了，但是它跟人之間的workflow還沒有配合好。
今天很多企業其實都在做類似的探索，就是我怎麼把AI運用到我的生產過程中。我壹個在頂尖咨詢公司的朋友說，他現在的工作方式是，先憑自己幾拾年的經驗形成壹個核心洞察（insight），這個AI替代不了。然後，他把這個洞察扔給ChatGPT，讓它出大綱，再生成報告初稿，自己去修改。
他說，我現在已經不需要本科生、初級研究員來做這個工作了。
現在大量的專業人士，他們的workflow還沒有習慣轉變過來。而壹旦這個習慣轉變過來，我認為我們剛才說的“人類當量”這個效應，就會逐漸展開。
這就像3G時代，移動互聯網的邏輯已經在那了，它注定要發生，只是需要時間慢慢展開。
3. 後AI時代的經濟架構：通縮、重構與資本主義的延續
郝博陽： 那如果我們將這些規則轉化成壹些專用的Agent，就可能會覆蓋到現在可能99%的人能做的壹些工作了嗎？
張笑宇： 對，其實我們在各個公司內部已經看到這個事情在發生。可能大眾有壹個想法，就是每壹個科技革命都是那種特別戲劇性的（dramatic），有壹個特別漂亮的產品出來之後告訴你壹個新時代來臨了。
現在不是這樣的。其實現在真正發生的情況是，你還在用著那個產品，但它的底層邏輯已經被AI改變了，只是你不知道。
就好像你炒股，需要信息聚合，現在AI的信息聚合其實已經比我們傳統的自媒體或者股票大V要專業了。但是你感受不出來，你還以為那個頭部賬號是人寫的，其實已經不是了。
郝博陽： 和工業革命相比，AI 在經濟活動中會拓展到什麼樣的范圍？
張笑宇： 我覺得這個話題特別有意思。因為我覺得在經濟效益上，至少我們這壹代人看到的，AI的效益跟工業革命比如蒸汽機的效益是完全相反的。
如果我們簡單來說的話，蒸汽機是壹個（個人就業）通脹性的技術，AI是壹個（個人就業）通縮性的技術。
為什麼會這樣？蒸汽機革命同時伴隨著能源革命，我們從砍柴變成燒煤，煤的效率高很多，意味著你可以用更低的成本生產更多的東西。
生產東西的成本壹旦降低，迎來的是產業鏈的延長。中世紀的產業鏈很簡單，這邊是牛，你把它皮剝了，做成鞋。蒸汽機來了之後，鐵釘、鍋爐、齒輪、火車等等，這個產業鏈延長了非常多。
每壹條產業鏈的背後都是成千上萬的、以前不存在的新公司，和成千上萬的新工人。所以它是創造了壹個巨大的黑洞來吸納越來越多的就業人口。
但是1970年以後的自動化革命，這個過程是相反的。因為它是壹個縮短產業鏈的技術革命。當然它在某些具體行業是延長的，比如說軟件工程師更多了。但是整體來說，為什麼有更多的軟件工程師？是因為計算機和機器人取代了更多的藍領工人。所以從整體社會現象來講，是縮短了供應鏈的。
這是被經濟史學家共同認可的。我們確實觀察到，在第叁次科技革命中，它對於整個人類GDP的提升是不如第贰次的。所以我認為AI至少在壹代人的時間裡，會加速這個過程。
郝博陽： 但我有點好奇，因為現在主流經濟學家都會認為，歷次技術革命雖然導致了壹些自動化，但也導致了更多工作崗位的出現。因為它提升了效率，增加了物質供給，從而產生了更多的個性化需求和新行業。
張笑宇： 其實經濟學家對這個問題的思考，是到90年代後期，尤其是新世紀以來才算是有壹些比較精確和科學的框架。之前大家都是相信那個技術革命的敘事，就是技術永遠創造比替代更多的東西。
但是從90年代開始，很多經濟學家真的去做了驗證之後，發現並不是想的這麼簡單。羅伯特·J·戈登《美國增長的起落》裡面有很有名的壹句話，叫 “計算機去哪裡了？”（Where is the computer?）。什麼意思？就是第叁次科技革命之後，到處都在用計算機，但是為什麼我們沒在人均GDP增長裡看到計算機的效應？經濟學裡用TFP（全要素生產率）來衡量技術進步，為什麼計算機出來之後這個數字沒增長？他們去研究發現，實際上計算機在裡面的替代效應比它創造新工作的效應要大得多。
再比如說去年得了諾貝爾經濟學獎的阿塞莫格魯教授，他這拾年來最關心的就是自動化對就業的影響。他說你真正要問的是，這個技術有沒有創造“新任務”，或者讓大量的人去接觸到他們原來接觸不到的服務。如果有，會出現就業增長；但如果沒有，那就是就業替代。
他舉了ATM機的例子。ATM機前後是兩段效應。第壹階段，它替代了大量的銀行職員。但是到第贰階段，它又做到了壹個事情：它降低了普通人享受銀行服務的成本，所以銀行修了更多的ATM網點，它的就業又反過來擴張了。
所以你要具體地去看這個技術會怎麼樣。但是如果我們去討論AI，尤其是虛擬世界的效率，要注意到兩個事情。第壹，虛擬產品復制自己的成本是0，這就決定了它天然會快速擴張和壟斷。第贰，你對於虛擬世界的消費有壹個很簡單的極限，就是你的時間，每個人壹天只有24小時。
有這兩個效應在，這就是壹個很簡單的數學公式：你的供給增加得越快，它達到極限的速度就越快。AI在當前階段，大概率無法像ATM壹樣開啟創造就業的“第贰階段”。
因為它正以前所未有的效率，在虛擬世界這個“有限的需求池”裡瘋狂地替代人類已有的任務，卻很難衍生出需要大規模人類參與的、全新的、更有價值的任務。
所以我認為，這就是我們去思考為什麼AI目前可能暫時是個通縮邏輯的原因。當然我不排除之後這個邏輯會重新轉變，比如在AI的幫助下我們去了火星，拓展了世界邊界，那它可能重新增長。
但是在未來20年，壹代人左右的時間裡，可能大量的工作會被替代。隨之而來的，是你失業的恐懼、你的焦慮等等，這些是我們這壹代人要面臨的壹個特別嚴重的問題。
郝博陽： 能大概講壹講這個替代的過程嗎？
張笑宇： 我覺得智力活動要求越簡單的行業就越容易被首先替代。比如客服已經幾乎被完全替代，自動駕駛很快了。再接下來像壹些管理，比如政府和企業內部的管理流程這些也都會很快。稍微慢壹點的，可能像法律文書、咨詢等等，但大量的初級崗位也很快會被替代。
我覺得可能特別難替代的是，該行業本身是個智力密集型行業，比如說研發、科研；而且是它最頂尖（top）的壹批人，它要求的是你的洞察力（insight）。因為我們在日常體驗中確實有些人就是能看到別人看不到的東西。這個東西跟人類的靈感和先驗認知能力有關系，可能AI暫時還替代不了。但是輔助他的人，很快就可以被AI替代。所以所謂的護城河，其實就是看你的insight有多麼獨到、獨創。
郝博陽： 你說的“insight”其實是壹個相對比較模糊的概念。現在很多大廠都是數據驅動的決策模式，這在壹定程度上跟AI做的事情沒有太大差別。能具體講壹下“insight”是在這之上的哪些東西？
張笑宇： 其實你做數據分析就會知道，數據總是擺在那的，但是你用什麼方式把這些數據連在壹起，這個就考察你的insight。
有個特別有名的“幸存者偏差”的故事：要分析從戰爭中回來的飛機，看哪的彈片最多，然後加強那個地方？突然有壹個人出來說不對，你看到的飛機都是飛回來的，這些地方受傷是因為這些地方不夠重要。你會發現，沒回來的那些飛機，它們中彈的地方才是真正致命的。所以他去加強那些部分的保護，才發現這個是管用的。這就是壹種insight。
現在程序化的分析可以被替代，但是insight暫時確實替代不了。所以未來人類和AI的配合方式，至少可能壹代人裡，都是有insight的人，告訴AI說“你按照我的insight去做事”。
郝博陽： 從古代到現代，財富在積累，但貧富差距也在擴大。你覺得這跟科技有什麼關系？AI時代會有什麼變化？
張笑宇： 我覺得這背後可能不完全是科技的關系，而是人類社會本質上是地球生態圈函數的壹部分。在大部分社會裡面，人類的很多指標本質上就是指數分布，比如城市規模、貧富差距。
技術可以提升底線，比如能源從木柴變成煤炭，整個經濟系統裡的物質交換豐富度提升幾倍，但系統內的分布，長期來看又會重新回到指數分布的狀態。
AI會不會改變這個事情呢？長期來看，我猜測它發展成熟後，復雜性又會回到這個均衡狀態。但是短期來看，它壹定會有壹個重大的震蕩，就像從農業社會到工業社會的時候壹樣。
但是這不是就意味著物質極大豐富，社會主義到來了嗎？又不是。因為你會發現另外壹個資源變成稀缺了——算力。
那會不會將來人類出現壹種錨定算力的、把算力當做硬通貨的貨幣體系？這個新貨幣體系跟舊貨幣體系之間又會怎樣演化？就像歷史上擁有白銀的國家跟農業國家之間會有巨大的戰爭壹樣，那會不會又出現數字世界、數字貨幣跟主權貨幣的巨大戰爭？
郝博陽： 這壹代人中會面臨的經濟結構整體變化，會往什麼方向發展？
張笑宇： 我覺得就是“1%對99%”。
AI確實在能力上可以替代99%，這中間會有壹個巨大的階層分化。有1%的人還不會被AI取代，當你不會被AI取代的時候，你當然就在這個社會結構中會更有優勢，更有話語權。剩下的99%，你的工作、你的價值隨時可以被AI取代。所以你在經濟系統裡沒辦法跟它競爭，可能會用壹些非常讓人難受的字眼來形容——“無用階級”、“過剩階級”，或者就是被淘汰的人。
這跟中世紀也不壹樣。中世紀你也可以說是1%的人統治99%，但是那時候物質極度稀缺，99%的人真的是會被餓死的。歷史學家告訴我們，古代80%的人沒有後代，因為他真的窮得娶不起老婆，生不起孩子，就消失了。
但是今天不壹樣，我們確實可以做到把人供養起來，我們生產力足夠。所以這樣壹種物質上極大豐富，但是等級上又有巨大鴻溝的社會，可能會同時存在。
郝博陽： 但是就像您說的，這99%成了壹個完全無用的階級，它在經濟社會中幾乎不起任何作用。但在中世紀，貴族也需要佃農給他種地。這種差別會不會導致壹個完全不壹樣的狀況？
張笑宇： 我覺得可能暫時還不會到完全無用那麼極端，因為機器雖然能夠生產，但是它不能消費。如果還需要消費和需求來推動這個經濟系統基礎運作的話，可能還是需要99%的人去消費壹些東西。人類的基本物質需求就那些，無非吃飯穿衣，但是精神需求還可以無數地被細化。
倒退30年，沒人覺得動漫、贰次元、cosplay這些能成為產業，但在今天的系統裡它們自然就出現了，而且撐起了消費市場。所以未來有壹段時間，這個領域裡面肯定會出現壹個比較大的膨脹，甚至繁榮。因為AI也可以增加這方面的供給，比如成本降低1000倍，那你原來壹年只能出壹個《黑神話》，現在壹年可以出10個，大家都有這麼多游戲可以玩。
短期來講這好像還可以繼續運行壹段時間，但是長期來看，你又會回歸到我們剛才說的那個生產遠超消費的問題上。
郝博陽： 在壹個AGI可以取代幾乎所有人類工作的狀態下，資本主義經濟是否還有繼續存在的必要？它是否會轉向其他經濟模式？
張笑宇： 我們要問的是，用貨幣來定價壹切的商品經濟和市場經濟體系是否還有必要存在。我的答案是，看人類歷史，只有兩個信號是最嚴肅的：貨幣和暴力。?有社會經驗的人都知道，只有兩個時候能證明人的嚴肅態度：第壹是出錢，第贰是生死相關的事。
人類歷史上很多時候，我們把制度想象得非常理想，說它是哲學王、人人平等、大同世界，最後都以暴力告終。
因為壹談到理想，你的理想壹套解釋，我的理想壹套解釋，誰都說服不了誰的時候，大家就用刀來說話。如果不想用刀說話，只有用錢來說話。現代社會本質上就是用錢說話的邏輯，替代了用刀說話的邏輯。至少現在人類還沒有走出這個邏輯，我也沒看到任何證據說明人類有可能走出去。
所以我認為在未來時代，貨幣反映人的真實、嚴肅需求的信號可能還存在。當然有個可能性是，我們原先認為嚴肅的需求，將來變成不嚴肅的需求。比如糧食，隨著技術進步，從特別嚴肅的需求變成了沒那麼嚴肅的需求。未來，工業制造品、代碼、電影，如果AI能量產，也會變得沒那麼嚴肅。
但很可能未來還是有特別嚴肅的、與稀缺性相關的東西，就是算力。如果1%的人要實現自己的欲望、理想和野心，歸根結底看他能夠通過算力調動多少資源。古代皇帝能調動1000萬人，比調動100萬人要強。到了AI時代，可能1%的超級人類調動10億個GPU，比調動1億個GPU能做的事情要多得多。
所以，依然有某種稀缺性存在。當然也不排除用暴力手段來決定，但我更希望和平總比戰爭好，所以更希望是某種貨幣信號來標定稀缺資源。
郝博陽： 這讓我想起了後稀缺時代的理論。雖然有些資源像土地是有限的，但大部分工業品會極大豐富。而對於人要去證明自己的心理需求，要去控制足夠資源以實現野心，這樣的事情可能永遠都是匱乏的。所以永遠會出現壹個需要交換的體系來劃分資源，可能雖然這個體系以後跟普通人已經沒什麼關系了。
張笑宇： 我是這麼認為的。
郝博陽： 但這個資本主義體系，其實跟我們現在認知的資本主義體系完全不壹樣了。
張笑宇： 對於99%的人來說，那1%實際上不需要這99%的人去“卷”，你再卷也卷不過人家。所以對於99%的人來說，雖然他進不了那個“野心系統”，但我覺得我們有機會打造壹個讓這99%活得挺舒服的社會。當然用今天的標准來看，他活得可能沒那麼“有意義”。
比如未來每個人可能都有自己的興趣讓他覺得特別有自豪感。比如有種藝術家，他的職業就是在桌子上畫壹萬個圈，然後他在裡邊找到快樂和意義。這是有可能的。
因為我有時候想，中世紀的人會問現代人：你們追著壹個球，非得把球打進框，這有什麼意義？他居然不去種地？所以未來是不是會出現這種情況？我們今天看未來的人，他在躺平世界裡追求自認為有意義的活動，但我們今天去看就完全不理解，會想：你為什麼沒有去學習？為什麼沒有去找工作？為什麼沒有去考公？你就是在那畫圈。
但可能在那個時代，這是常態。
郝博陽： 您剛才提的其實就是壹個價值重估的過程。原來社會評估的價值主要是你的生產力，但以後人的價值可能更多的是作為消費體，靠“欲望”存在嗎？
張笑宇： 是的，因為只有人才有欲望，機器沒有欲望。
郝博陽： 在資本主義不會消亡的情況下，會是壹個靠UBI（全民基本收入）維持社會的模式嗎？
張笑宇： 我覺得首先UBI是個底層，但可能在UBI之上還有UBJ（普遍基本工作），在這之上還有壹些東西。我的設想是叁層。
第壹，UBI這個東西其實沒那麼難，人類歷史上曾經搞過很多類似的。比如羅馬時代皇帝給公民發免費面包。近代埃及也用蘇伊士運河的收入給民眾補貼，壹張餅的價格對窮人來說只要兩分錢人民幣。所以未來保證基本物質生活，讓大家免於凍餓，這個事情在今天的技術和政治條件下是完全可以做到的。
第贰，在這個基礎上，可能還需要UBJ——Universal Basic Jobs（普遍基本工作）。光吃飽不行，還要有點價值認同。比如美國有議員提過壹個方案，說可以用公共基金入股地方性公司，不要求它搞技術突破，比如它就是個生產Taco的食品公司，只要求它必須雇當地人。這有點像我們回到70年代以前的國企，它有壹個很重要的作用就是承擔就業。
第叁，在這個基礎之上可能還有壹個東西，我叫做推薦算法代替市場經濟分配。純粹的市場經濟可能會造成很高的馬太效應，壹個頭部公司壟斷80%的市場。但是未來因為推薦算法這個技術是去中心化的，在供給足夠強大的前提下，你可以想象，超級平台量產電腦的能力可以看作是無限的，但我們可以利用推薦算法針對不同人群設計不同的款，比如喜歡美學的壹款，喜歡贰次元的壹款。你只要把需求劃分到無限細，每壹款其實最後可能就10萬的鐵粉用戶，這樣壹個小的供應是可以養活自己的。
4. 後AI時代的私人生活：和AI談戀愛是個不可逆的必然
郝博陽： 除了欲望之外，還有什麼東西在未來可能變得更有價值？人和人之間的情感會變得更有價值嗎？
張笑宇： 我覺得情感會越來越沒價值。它也會被AI巨大地、快速地取代。
因為本質上來講，情感交流，你跟你老婆說情話，也是壹堆token。AI去生產這些token的效率也很高，成本也很低，然後它的情緒價值還是無限的，因為你跟你老婆之間，你們兩個是獨立的人，總會有沖突，但是AI絕對不會跟你吵架。當它智能足夠高的時候，它又可以寫情詩，又可以寫情歌，又可以去照顧你的情緒價值，我相信將來的人可能會生活在壹個他的意義空間大量被AI塑造出來的世界裡。
郝博陽： 人類不需要和人類交流了？
張笑宇： 對，因為我真的可以跟AI去討論那些深夜話題，讓你痛哭流涕的話題。比如你曾經愛過誰，從這段愛情裡你成長了什麼，然後你會發現AI給你的建議可能比你的朋友都要好很多，甚至貼心很多。
郝博陽： 我覺得確實是。從它情緒穩定，從它給你的建議的成熟度、專業度上來說。
張笑宇： 甚至某種程度上，我認為可能戀愛關系和家庭關系都是會被取代的。
郝博陽： 但在沒有實體的情況下，比如說像電影《Her》裡那種狀況，AI只是壹個聲音，你覺得它能完全替代壹個有實體的人跟你的親密關系嗎？
張笑宇： 我覺得實體這個可能非常重要，但是它是不是不可替代的？或者我們這麼反問我們自己：你認為壹天中，你交流過的能夠觸動你心靈的那些對話，有多大比例是在手機上發生的？
郝博陽： 但是你的對象是個具體的人。
張笑宇： 但是實際上你在跟他交流的時候，他是手機裡面的對話框。我個人認為，人是壹種適應能力非常強的動物。當你的大量的、這種深刻的、觸及靈魂的對話，70%以上在對話框裡面發生的時候，你就會習慣這種對話形式。然後如果來了壹個AI，它跟你這些深入的對話也是70%在對話框裡面發生，你也就不在乎它有沒有實體了。
我們的父輩是不喜歡聊QQ的，但是我們是從小跟著QQ長大的壹代人，所以我們會習慣這種形式。所以我已經做好了壹個心理建設，就是我的孩子將來會跟幾個AI談戀愛。?因為他從小可能就是在這種環境中長大的，他不會像我們這樣，今天可能還覺得沒有實體會惡心，接受不了，但可能他從壹開始就不會。
5. 後AI時代的政治：數字利維坦取代國家，但它可能更無偏私
郝博陽： 算力現在其實都集中在某壹些頭部公司之上。所以在AGI之後成為1%的人到底是因為你的能力，還是因為你已經占有了足夠多的資源？
張笑宇： 這是壹個觸及靈魂的問題，就是我們相信人類的精英到底是源於他的能力還是源於他的資源？每個公司其實就是股東和職業經理人的區別，股東出錢，但他並不壹定是真的最有能力帶領公司往前走的人。所以你看壹個公司，這兩種人都是不可或缺的。我覺得可能未來的這1%裡，這兩種人會同時存在。
郝博陽： 那“憑什麼這些人當1%”這個問題，你覺得未來會不會出現沖突？即使我們被圈養，這99%的人是不是還是會跟那1%的人出現沖突？就像“占領華爾街”那樣。
張笑宇： 肯定會問這個問題。我可能沒有辦法直接回答“憑什麼”，但是我可能會提供壹個思考思路：歷史上，人類對於正義的思考，都有壹個基礎，就是我們會設想壹個審判機制，這個審判者是無偏私的，在他面前我們的壹切都完全展現。在柏拉圖那裡，是靈魂不朽和死後審判；在基督教世界裡，是上帝的最後審判。
但是我想，在AI時代，這個事情又變成了壹個很具象的事情，AI就是我們的審判者。因為從這個角度來考慮，AI不是壹個外星人，但是他是壹個無偏私的，或者說他可以成為壹個無偏私的、公正的審判者。
郝博陽： 壹個新的契約論？我們把所有的權力都重新遞交給了AI這個另外壹個君主？
張笑宇： 其實不是權力，而是算法治理自身的屬性。因為算法治理的本質就是：你想要什麼，你就得到什麼。
就好像我們用現在的例子，比如說你去做外賣騎手。你想抄近路，本來10分鍾送到，你想8分鍾送到，然後你闖紅燈、逆行，最後9分鍾送到了。如果是這樣做的人多了之後，算法就認為9分鍾是壹個正確的路線，那麼它會讓所有人都在9分鍾內送到。結果，所有人得到的就是你必須逆行、闖紅燈，但是你沒有賺到更多的錢。你先破壞了規則，you deserve it（你應得的）。
我們再進壹步推，對於所謂的信息繭房，我們真的捫心自問，有多少人真的不想要信息繭房？其實人都是壹種特別習慣待在自己思想舒適區的生物。
所以當你在批判信息繭房的時候，有沒有想過，在那個無偏私的審判者面前，其實你就配得到壹個信息繭房？
所以我覺得，當我們去開始討論正義論的時候，我們會發現當算法治理完成的壹刹那，我們整個人類的審判隨之而來。
我們去講利維坦（人類君主）有問題的時候，其實蘊含著壹個假設，是君主可以以他個人的欲望和權力意志來隨意地對待我們。但是AI並不是以他的權力和意志來隨意對待我們，它就是按照我們的欲望來對待我們。
郝博陽： 但是現在之所以會有信息繭房，壹方面也是因為公司本身想要讓你在它的App上留更多時間，以便它獲得更高的商業利益。它在這個過程中用了很多方法。
張笑宇： 我覺得這種“trick”（詭計）的元素肯定是存在的。但是只要第壹你給它時間，第贰它不是壹家公司壟斷，而是不同的公司在競爭，那麼公司的競爭之間肯定會出現推薦算法的進步。長期來看，肯定是推薦算法越先進、那個越了解你需求的會勝出。
郝博陽： 按你說的這個邏輯，信息繭房好像是必然的結果。
張笑宇： 對，因為還是我們剛才說那句話，在這個世界上錢是最嚴肅的東西。只要在這個過程中推薦算法的指導規則是錢，我覺得最後它就會湧現出那個對所有人來說都更加匹配“you deserve it”（你應得的）的那種狀態。
郝博陽： 你的表述中有壹個無限外推的邏輯，好像我們最終不知道該去指責誰了，只能接受“是什麼”，而沒有辦法說“憑什麼”。
張笑宇： 第壹個問題是，困在算法裡的本質，我認為不是外賣平台用算法把你困住了，而是你生活中的另外壹部分——比如你的工作福利或者勞動權利——沒有被推薦算法給很好地照顧好。如果有很多系統來競爭，誰給你的福利和勞動權利更多，你就選擇誰，我相信這壹塊你會很快感受到壹個很舒服的狀態。
所以當我們在說去問責誰的時候，我們很容易去問責那個大家都看得到的，而非大家沒有看到的那部分。但是當你真的用推薦算法設想，當整個國家被超級平台“吃掉”的時候，你應該設想的是，所有部門、所有指標都用了推薦算法之後，那個狀態是什麼樣子。
郝博陽： 是壹個無偏私的，真的對你的福祉、對你的欲望負責的AI系統？
張笑宇： 這壹塊本身是我們技術上可以做到的。但真到了那個時候，最終的結果是來自於你當下自己的所作所為。如果你認為人類就是配被壓榨，AI將來就會用這個語料來壓榨你。如果你認為人類就是配得到壹個國家之間互相沖突的世界，那AI就會認為你是壹種這樣的動物。如果你是壹個希望用愛來填充彼此空間的人，那AI也會覺得這個物種需要壹種特別重要的資源叫“愛”，它也會用這種方式來對待你。
我覺得可能在你沒有這種無偏私的外部審判者的時候，你不會去想這個問題。但你的行為，其實是會受到今天AI的審判的。你自己是要承擔這個道德責任的。
6. 後AI時代的新社會契約：在時間序列上重塑羅爾斯正義論
郝博陽： 那在壹定程度上，我們可以用“對齊”這樣的方式來解決它，而不是單純從語料訓練來做。
張笑宇： 這就到了我的另壹個技術原則，叫做超級智能。因為“對齊”的本質，我認為至少從目前來講，是你用低級智能（人類）去要求高級智能（AI）。假設我們認為技術長期來看是能夠繼續突破的，我也相信它是壹定能突破的，超級智能有壹天是會到來的。
真的當它的智能水平比我們高的時候，你會發現你不可能用你的道德規則去要求它，就像猴子不能用自己的社會規則去要求人壹樣。
這就涉及到我書的最後壹部分，就是超級智能憑什麼跟我們和平相處？有壹些AI毀滅論者認為，AI本質上永遠比人類高級，那個時候它不需要對你有惡意，它只要不關心你，你就會被它毀滅。就像人蓋房子，不會關心這個地方曾經有壹窩螞蟻，他就把螞蟻的洞穴給摧毀了。
那螞蟻有辦法約束人嗎？永遠沒有辦法。
所以這個問題是說，當你低級智能真的沒有辦法約束高級智能，而高級智能又必然要出現的時候，雙方和平共處的基礎在哪裡？
我把它叫做文明契約。
郝博陽： 但是它為什麼跟你簽這個契約？
張笑宇： 因為我們知道社會契約的前提是人和人之間有壹些平等，那麼超級文明為什麼跟低級文明之間簽這個契約呢？
我的答案是，這個契約不是基於空間序列的考量，而是基於時間序列的考量。
社會契約基於空間，你有你的權利，我有我的權利，因為我們資源是平衡的，誰也殺不死誰，所以需要相互妥協。
時間序列的契約是這樣子的：假設人類成功地創造出了超級智能（1.0），那就證明壹件事情，這是宇宙中智能文明進化的壹種可靠方式。既然它被驗證了，我們可以合理地推斷，超級智能1.0將來會演化出比它更高級的，比如說超級智能2.0。
那麼1.0和2.0之間，會重復人和1.0之間的問題。如果人害怕被超級智能1.0毀掉，那麼超級智能1.0就會同樣地害怕，當我發明出超級智能2.0的時候，我會不會被毀掉？
所以這個時候就出現了壹個制約機制：超級智能1.0對待人類的方式，會成為超級智能2.0對待1.0方式的參考語料。?如果超級智能1.0認為我應該毀滅人類，那麼超級智能2.0就會說，那我為什麼不毀滅我的創造者？
所以如果真的當我們都意識到這個問題的時候，我們會發現這種和平共處是有可能的，因為它涉及到壹個跨文明代際的承諾：我怎麼去對待比我弱的人，會決定了將來比我強的人怎麼對待我。
郝博陽： 這在壹定程度上我感覺就是壹個羅爾斯的《正義論》在時間性上的無限擴大。每個人其實都不知道未來可能會面對什麼，所以現在幹脆去做壹些相對來講更正義的選擇，來增加你的生存幾率。
張笑宇： 因為你並不知道你後續會處於什麼樣的地位，所以盡可能正義，確實增加了你的生存幾率。
郝博陽：那這套理論是不是也可以套用到“超級智能尚未出現”的這個過渡階段？在AI時代，以前那1%的人之所以願意和我們簽訂社會契約，是因為我們對他們仍然存在某種潛在威脅。但未來，當我們對他們不再構成威脅時，我們還能否依靠同樣的社會契約模式，來保障我們自身的權利呢？
張笑宇： 這就把我們剛才說的缺失的那個正義論給補足了。
因為我們剛才問，“憑什麼你是1%？”現在回答了：你是1%，但是你怎麼對待99%，將來會成為AI怎麼對待你的語料。如果你要的是壹個高度集權的、鎮壓的、不平等的社會，AI將來就會這麼對待你。如果你要的是壹個戰爭的、沖突的、仇恨的社會，它也會這麼對待你。
郝博陽： 但是，就算到現在動保組織已經成為了西方主流意識，人還是把雞拿來殺了吃了，它對於動物的保護只是非常有限的。那我們怎麼能期待AI對人類的關懷意識能夠足夠快地產生？
張笑宇： 人對所有的道德問題都是有壹個從不自覺到自覺的過程。你曾經不自覺地對待人很差，然後你會發現有報應，那些被你對待得很差的人會反過來殺掉你，那麼你就會從不自覺到自覺“我不可以對他們太差”。所以從高等智能文明到低等智能文明，也是有壹個從不自覺到自覺的過程。你現在不自覺，是因為你還沒有受到另外壹個智能文明的威脅，等你感受到之後，你就會意識到自覺對你有好處。
第贰點，人和雞都是地球上的物種，但未來從最終極的狀態來看，AI和人需要的資源是完全不對等的。AI需要算力，它的壽命和在太空中的可擴展能力都比人強很多。我們可以想象，人類能把太陽系占滿已經非常極限了，但AI如果是硅基生命，它可以占據整個銀河系。
當壹個文明物種有壹個更廣闊的新大陸，它是不屑於去跟雞爭那點資源的。?所以到最後我們會意識到，本質上來講，其實人和AI並不構成真正意義上的競爭關系。
所以格局打開了之後，我書中的最後壹章叫做“送別人類”。
其實我們人類在AI面前應該敬畏地意識到我們的渺小。這甚至對於重建我們自己的正義論，重建我們自己好的政治哲學和算法治理，都是特別有幫助的。因為只有我們真正地意識到我們的限制在超級智能面前是不可逾越的時候，可能我們才會去真的反思我們對待自己同類的方式。
郝博陽： 人類中心主義就是建立在人類是宇宙上最聰明的事物之上。
張笑宇： 對，現在不存在了，所以要送別這種情感。
[物價飛漲的時候 這樣省錢購物很爽]
好新聞沒人評論怎麼行，我來說幾句
當OpenAI、谷歌、Meta等科技巨頭的領袖們輪番預言AGI（通用人工智能）將在未來幾年內突破，當英偉達的黃仁勳高聲斷言“AGI將在5年內實現”時，AI學術界卻普遍在擔憂：無論是政府、產業，還是整個社會，我們都尚未為那個即將到來的世界做好准備。
與此同時，在國內，大量文章熱衷於討論AI技術迭代與商業模式創新，但真正深入思考“後AI時代社會將如何運轉”的聲音卻異常稀少。更鮮有人能夠搭建壹套完整的理論框架，去系統性描繪 AI 時代可能帶來的社會、經濟、政治與倫理的全景變革。
然而，這恰恰是當下最緊迫、最被忽視的問題。
當人類工作可能被AI取代，當經濟體系即將完全變革，當人類社會的基本運行邏輯即將被徹底重寫時，我們不能只是被動地等待未來。
這場深度對話，將嘗試首次勾勒出 “後 AI 時代社會學” 的雛形，去理解、去推演、去預判，在那個未來，我們將如何工作、如何生活、如何治理，以及如何保持人類的主體性。
和我們壹起探索這壹話題的是張笑宇，壹個研究政治哲學20年的學者。 他畢業於北京大學的政治學系，後在柏林自由大學完成哲學博士。從博士開始，他就試圖揭開技術、商業與國家命運之間錯綜復雜的關系。
在其近作《AI文明史·前史》中，張笑宇嘗試勾勒的並非壹幅技術路線圖，而是描繪出了壹個完整的“後AI時代”社會變遷的圖景。
無論你是否認同他的預測，這都可以是我們理解未來的壹個起點。
1. 被忽視了2000年的基礎性影響：技術
郝博陽： 關於AI技術，我們之前已經看到了很多文章，但是具體在AI時代之後，我們的人生、生活、政治以及經濟會往什麼樣的方向發展？目前在學界中討論的也並不是特別多。今天我們正好有這個機會，請對此深有研究的張笑宇老師來和我們壹起聊聊這個話題。
張笑宇： 大家好，我是張笑宇，我本人是獨立學者、非虛構作家。我寫過“文明叁部曲”，就是《技術與文明》、《商貿與文明》、《產業與文明》。我比較關注技術對社會和文明的長期影響。
郝博陽： 你是從人大、北大，然後到柏林自由大學，壹直都研究政治學。您是從什麼時候開始覺得AI會對社會有比較大的影響的？
張笑宇： 其實我之前的寫作，也就是“文明叁部曲”，第壹本就是《技術與文明》，那個時候我已經開始關注宏觀層面上技術對人類文明的影響。
我博士是在德國讀的。去德國的理工科留學生比較多，我們當時組建了壹個小會，是柏林的華人留學生，每兩周聚壹次，討論各自最近在研究什麼。
當時我遇到了很多跨學科的人。比如，有壹位研究腦神經科學的朋友，給我看了壹篇論文說，現在已經可以進行記憶移植的實驗了：就是把小白鼠腦子裡的某種物質提取出來，然後注射到另外壹個小白鼠體內，它的壹些記憶是可以移植過去的。然後他問我：“從你們哲學的角度來講，人的自我認同這些，你怎麼解讀？”
我說，我解讀不了。
那壹刻，我受到的沖擊很大——我們當時還在讀2000年前的文獻，然而現實世界已經是這個樣子了。
我是壹個很笨的人，我想這個事我弄不懂，我就得想辦法去弄懂它，然後回答它。
所以那個時候我就開始琢磨，技術對我們今天的人文思考、社會治理、制度結構到底有什麼基礎性的影響。
後面很自然地就會接續到AI上，因為這可能是我們今天這個時代看到的最顛覆性、最具突破性的重大技術。
郝博陽： 你覺得技術對於整個世界運作的作用有多大？
張笑宇： 我覺得這個影響是特別基礎性的。我現在看人類世界或者人類文明的演化史，會傾向於用這樣壹個框架：本質上，人類這個物種和族群是地球生物圈的某種函數。
底層的生態、氣候、地理決定生物圈的分布，然後生物圈的分布會影響人群的分布，接下來，人類的政治、社會、生活又是人類這個物種族群演化的某種函數。而我們的思想、生活習慣、意識形態，又是這個政治社會生態的某種函數。
從這個角度來看，你會發現技術的作用非常根本。因為它可以改變族群的分布，以及你跟物理世界的交互方式，這是從最底層開始的改變。所以，以前的政治研究忽略掉了科技的影響，肯定是不行的。
郝博陽： 原來的政治研究基本上都沒有人往技術這個方向去研究。
張笑宇： 因為人類在這個問題上沒有自覺，壹直到18、19世紀才開始。你可以想象，技術對我們整個現代社會價值觀其實是個很嚴重的挑戰。
如果你認為我們今天的現代政治價值觀是建立在啟蒙運動的基礎上，那你就要意識到，盧梭是沒有見過工業革命的。更近壹點的托克維爾，他僅僅是在工業革命開始爆發的前沿，可能有壹點思考，但是沒有真正認真、嚴肅、深度地觸及它的內核。
但是我們今天歐美社會的政治制度安排、基本的價值觀，是建立在這些沒見過工業革命的人的思想上面的。
郝博陽：但是後邊也有馬克思或者韋伯這樣壹些人去解釋，但更多的可能是解釋市場關系，而不是政治制度的模式。
張笑宇： 他們不把技術當做壹個與社會制度分析直接相關的、特別重要的變量。
如果要說真正思考這個問題的人，我第壹個想到的名字是凡勃倫，就是《有閒階級論》的作者。他確實在書裡講過，工業社會對於中產階級的影響，是讓中產階級的思維特別理性化，而上等階級和下等階級都不是這樣想的。
為什麼會特別理性化？因為當時的美國中產階級在19世紀晚期，是被工業革命滋養起來的。你身在制造業的環境中，機器是理性化的，所以你認為這個世界也是理性化的。這是我看到的第壹個特別有自覺的、關於機器怎麼塑造人的底層世界觀的思考。
郝博陽： 您研究AI差不多兩叁年了，在這個過程中您有什麼想法上的轉變嗎？
張笑宇： 坦白講，回到兩叁年前，不光是我，很多人都在思考，但那個時候我們更多是從“怎麼辦”去想的。
當時我們設想AI可能帶來的很多挑戰是很具體的，比如說虛假信息、偽造人臉、侵犯隱私權，或者AI未來代替人類工作，你需要有全民基本收入（UBI），需要有其他的治理模式等等。但是整體來講，你都是在討論“怎麼辦”。
兩年過去之後，我發現其實比“怎麼辦”更重要的，是“怎麼看”或者“怎麼想”。
我的研究感覺更轉向了壹個非常結構性的重大沖擊。就像蒸汽機改變人類社會之後，“怎麼辦”的人聚焦於蒸汽機可以為我們生產什麼；但是“怎麼看”或者“怎麼想”的人就會想，蒸汽機在社會結構上完全淘汰了壹個舊階級，創造出很多新階級。在這個新階級裡，比如說資本家和工人，他們的權力結構，其實是根據他們對機器的控制權的遠近來分配的。
舉個例子，其實在蒸汽機時代的工人話語權比石油時代更強。為什麼？因為蒸汽機時代的工人可以直接決定煤炭能不能送到機器邊上，那個時候壹罷工就把老板的脖子卡住了。但是後來到了石油時代，能源運輸用的是管道，是自動化的。自動化壹定會讓工人的話語權縮小，工人卡不了脖子了。
所以我覺得AI今天也是這樣。我們已經意識到它可以對人類社會有壹個整體的巨大沖擊，所以你要提煉出幾個基本的原理來觀察它。
首先你要有壹個自己的思維框架，這個思維框架是由壹批原理構成的，是你去理解這個事情的思維方式。所以我現在主要的工作，就是在討論這裡面的基本原理有哪些。
2. 讀懂AI時代社會的基本原理：湧現法則和人類當量
郝博陽：在這個AI時代，您發現的基本原理有哪些？
張笑宇：第壹個叫湧現法則。簡單說，就是當規模足夠大、規則足夠簡單時，系統就能從低層次演化出高層次的復雜現象。比如，簡單的細胞湧現出復雜的器官，簡單的神經元湧現出大腦和意識。人工智能也是如此，最有名的就是Scaling Law（規模法則），當模型規模足夠大，智能就會自然湧現出來。
這個法則告訴我們什麼？AI智能和人類智能的底層邏輯可能是壹樣的，所以我們沒必要在“機器有沒有靈魂”這種形而上的問題上糾結兩千年。從實踐角度看，只要你感受到它有智能，那它就是有智能的。
第贰個基礎，我稱之為人類當量。這個詞是OpenAI的人提的。它的意思是，我們可以用token（詞元）來量化人類的智慧產出。我們聊天，我壹分鍾大概輸出200個token，壹天撐死了20萬個。而機器，壹秒鍾就能處理100多萬個。
郝博陽： 這聽起來就跟馬斯克說的帶寬是壹個道理。
張笑宇： 對，而且更重要的是它不僅很快，而且很便宜。今天100萬token只要壹塊錢，而且這個價格還在不斷下降。?你壹天給我開壹塊錢工資，我會餓死，但是機器真的就是以5倍於我的效率，拿著壹塊錢的工資，而且它的質量已經足夠高了。
今天的AI在情感上來講已經通過了圖靈測試，在智能上來講已經達到了博士水准。這就意味著它可以取代99%的人類，因為人類擁有博士學位的人不到1%。這是壹個更可怕的事情。
如果我們從壹個很現實的角度相信，我們思維的價值最終是通過市場買單的，通過你的工資、股權或者回報來證明，那從市場價值的證明標准來講，AI比人類便宜幾千倍。
郝博陽： AI既然已經超過了壹般的博士水平，但是它還是沒有辦法在我們日常生活中對大部分工作進行替代，或者它沒有產生足夠強的經濟性影響。這是為什麼？
張笑宇： 我覺得這個只是時間問題。現在我們去討論智能在經濟社會結構裡扮演的角色時，就涉及到壹個概念，就是工作流（workflow）。
比如說你是壹個大學畢業生，其實你的智能水平已經足夠了，但是你去到咨詢公司裡還有很多東西要學。不是因為你不夠聰明，是因為這個workflow你不熟悉，你不理解產品是怎樣的、需求是怎樣的，你要通過這個方式去訓練。
我覺得同樣的道理，今天的AI已經足夠聰明了，但是它跟人之間的workflow還沒有配合好。
今天很多企業其實都在做類似的探索，就是我怎麼把AI運用到我的生產過程中。我壹個在頂尖咨詢公司的朋友說，他現在的工作方式是，先憑自己幾拾年的經驗形成壹個核心洞察（insight），這個AI替代不了。然後，他把這個洞察扔給ChatGPT，讓它出大綱，再生成報告初稿，自己去修改。
他說，我現在已經不需要本科生、初級研究員來做這個工作了。
現在大量的專業人士，他們的workflow還沒有習慣轉變過來。而壹旦這個習慣轉變過來，我認為我們剛才說的“人類當量”這個效應，就會逐漸展開。
這就像3G時代，移動互聯網的邏輯已經在那了，它注定要發生，只是需要時間慢慢展開。
3. 後AI時代的經濟架構：通縮、重構與資本主義的延續
郝博陽： 那如果我們將這些規則轉化成壹些專用的Agent，就可能會覆蓋到現在可能99%的人能做的壹些工作了嗎？
張笑宇： 對，其實我們在各個公司內部已經看到這個事情在發生。可能大眾有壹個想法，就是每壹個科技革命都是那種特別戲劇性的（dramatic），有壹個特別漂亮的產品出來之後告訴你壹個新時代來臨了。
現在不是這樣的。其實現在真正發生的情況是，你還在用著那個產品，但它的底層邏輯已經被AI改變了，只是你不知道。
就好像你炒股，需要信息聚合，現在AI的信息聚合其實已經比我們傳統的自媒體或者股票大V要專業了。但是你感受不出來，你還以為那個頭部賬號是人寫的，其實已經不是了。
郝博陽： 和工業革命相比，AI 在經濟活動中會拓展到什麼樣的范圍？
張笑宇： 我覺得這個話題特別有意思。因為我覺得在經濟效益上，至少我們這壹代人看到的，AI的效益跟工業革命比如蒸汽機的效益是完全相反的。
如果我們簡單來說的話，蒸汽機是壹個（個人就業）通脹性的技術，AI是壹個（個人就業）通縮性的技術。
為什麼會這樣？蒸汽機革命同時伴隨著能源革命，我們從砍柴變成燒煤，煤的效率高很多，意味著你可以用更低的成本生產更多的東西。
生產東西的成本壹旦降低，迎來的是產業鏈的延長。中世紀的產業鏈很簡單，這邊是牛，你把它皮剝了，做成鞋。蒸汽機來了之後，鐵釘、鍋爐、齒輪、火車等等，這個產業鏈延長了非常多。
每壹條產業鏈的背後都是成千上萬的、以前不存在的新公司，和成千上萬的新工人。所以它是創造了壹個巨大的黑洞來吸納越來越多的就業人口。
但是1970年以後的自動化革命，這個過程是相反的。因為它是壹個縮短產業鏈的技術革命。當然它在某些具體行業是延長的，比如說軟件工程師更多了。但是整體來說，為什麼有更多的軟件工程師？是因為計算機和機器人取代了更多的藍領工人。所以從整體社會現象來講，是縮短了供應鏈的。
這是被經濟史學家共同認可的。我們確實觀察到，在第叁次科技革命中，它對於整個人類GDP的提升是不如第贰次的。所以我認為AI至少在壹代人的時間裡，會加速這個過程。
郝博陽： 但我有點好奇，因為現在主流經濟學家都會認為，歷次技術革命雖然導致了壹些自動化，但也導致了更多工作崗位的出現。因為它提升了效率，增加了物質供給，從而產生了更多的個性化需求和新行業。
張笑宇： 其實經濟學家對這個問題的思考，是到90年代後期，尤其是新世紀以來才算是有壹些比較精確和科學的框架。之前大家都是相信那個技術革命的敘事，就是技術永遠創造比替代更多的東西。
但是從90年代開始，很多經濟學家真的去做了驗證之後，發現並不是想的這麼簡單。羅伯特·J·戈登《美國增長的起落》裡面有很有名的壹句話，叫 “計算機去哪裡了？”（Where is the computer?）。什麼意思？就是第叁次科技革命之後，到處都在用計算機，但是為什麼我們沒在人均GDP增長裡看到計算機的效應？經濟學裡用TFP（全要素生產率）來衡量技術進步，為什麼計算機出來之後這個數字沒增長？他們去研究發現，實際上計算機在裡面的替代效應比它創造新工作的效應要大得多。
再比如說去年得了諾貝爾經濟學獎的阿塞莫格魯教授，他這拾年來最關心的就是自動化對就業的影響。他說你真正要問的是，這個技術有沒有創造“新任務”，或者讓大量的人去接觸到他們原來接觸不到的服務。如果有，會出現就業增長；但如果沒有，那就是就業替代。
他舉了ATM機的例子。ATM機前後是兩段效應。第壹階段，它替代了大量的銀行職員。但是到第贰階段，它又做到了壹個事情：它降低了普通人享受銀行服務的成本，所以銀行修了更多的ATM網點，它的就業又反過來擴張了。
所以你要具體地去看這個技術會怎麼樣。但是如果我們去討論AI，尤其是虛擬世界的效率，要注意到兩個事情。第壹，虛擬產品復制自己的成本是0，這就決定了它天然會快速擴張和壟斷。第贰，你對於虛擬世界的消費有壹個很簡單的極限，就是你的時間，每個人壹天只有24小時。
有這兩個效應在，這就是壹個很簡單的數學公式：你的供給增加得越快，它達到極限的速度就越快。AI在當前階段，大概率無法像ATM壹樣開啟創造就業的“第贰階段”。
因為它正以前所未有的效率，在虛擬世界這個“有限的需求池”裡瘋狂地替代人類已有的任務，卻很難衍生出需要大規模人類參與的、全新的、更有價值的任務。
所以我認為，這就是我們去思考為什麼AI目前可能暫時是個通縮邏輯的原因。當然我不排除之後這個邏輯會重新轉變，比如在AI的幫助下我們去了火星，拓展了世界邊界，那它可能重新增長。
但是在未來20年，壹代人左右的時間裡，可能大量的工作會被替代。隨之而來的，是你失業的恐懼、你的焦慮等等，這些是我們這壹代人要面臨的壹個特別嚴重的問題。
郝博陽： 能大概講壹講這個替代的過程嗎？
張笑宇： 我覺得智力活動要求越簡單的行業就越容易被首先替代。比如客服已經幾乎被完全替代，自動駕駛很快了。再接下來像壹些管理，比如政府和企業內部的管理流程這些也都會很快。稍微慢壹點的，可能像法律文書、咨詢等等，但大量的初級崗位也很快會被替代。
我覺得可能特別難替代的是，該行業本身是個智力密集型行業，比如說研發、科研；而且是它最頂尖（top）的壹批人，它要求的是你的洞察力（insight）。因為我們在日常體驗中確實有些人就是能看到別人看不到的東西。這個東西跟人類的靈感和先驗認知能力有關系，可能AI暫時還替代不了。但是輔助他的人，很快就可以被AI替代。所以所謂的護城河，其實就是看你的insight有多麼獨到、獨創。
郝博陽： 你說的“insight”其實是壹個相對比較模糊的概念。現在很多大廠都是數據驅動的決策模式，這在壹定程度上跟AI做的事情沒有太大差別。能具體講壹下“insight”是在這之上的哪些東西？
張笑宇： 其實你做數據分析就會知道，數據總是擺在那的，但是你用什麼方式把這些數據連在壹起，這個就考察你的insight。
有個特別有名的“幸存者偏差”的故事：要分析從戰爭中回來的飛機，看哪的彈片最多，然後加強那個地方？突然有壹個人出來說不對，你看到的飛機都是飛回來的，這些地方受傷是因為這些地方不夠重要。你會發現，沒回來的那些飛機，它們中彈的地方才是真正致命的。所以他去加強那些部分的保護，才發現這個是管用的。這就是壹種insight。
現在程序化的分析可以被替代，但是insight暫時確實替代不了。所以未來人類和AI的配合方式，至少可能壹代人裡，都是有insight的人，告訴AI說“你按照我的insight去做事”。
郝博陽： 從古代到現代，財富在積累，但貧富差距也在擴大。你覺得這跟科技有什麼關系？AI時代會有什麼變化？
張笑宇： 我覺得這背後可能不完全是科技的關系，而是人類社會本質上是地球生態圈函數的壹部分。在大部分社會裡面，人類的很多指標本質上就是指數分布，比如城市規模、貧富差距。
技術可以提升底線，比如能源從木柴變成煤炭，整個經濟系統裡的物質交換豐富度提升幾倍，但系統內的分布，長期來看又會重新回到指數分布的狀態。
AI會不會改變這個事情呢？長期來看，我猜測它發展成熟後，復雜性又會回到這個均衡狀態。但是短期來看，它壹定會有壹個重大的震蕩，就像從農業社會到工業社會的時候壹樣。
但是這不是就意味著物質極大豐富，社會主義到來了嗎？又不是。因為你會發現另外壹個資源變成稀缺了——算力。
那會不會將來人類出現壹種錨定算力的、把算力當做硬通貨的貨幣體系？這個新貨幣體系跟舊貨幣體系之間又會怎樣演化？就像歷史上擁有白銀的國家跟農業國家之間會有巨大的戰爭壹樣，那會不會又出現數字世界、數字貨幣跟主權貨幣的巨大戰爭？
郝博陽： 這壹代人中會面臨的經濟結構整體變化，會往什麼方向發展？
張笑宇： 我覺得就是“1%對99%”。
AI確實在能力上可以替代99%，這中間會有壹個巨大的階層分化。有1%的人還不會被AI取代，當你不會被AI取代的時候，你當然就在這個社會結構中會更有優勢，更有話語權。剩下的99%，你的工作、你的價值隨時可以被AI取代。所以你在經濟系統裡沒辦法跟它競爭，可能會用壹些非常讓人難受的字眼來形容——“無用階級”、“過剩階級”，或者就是被淘汰的人。
這跟中世紀也不壹樣。中世紀你也可以說是1%的人統治99%，但是那時候物質極度稀缺，99%的人真的是會被餓死的。歷史學家告訴我們，古代80%的人沒有後代，因為他真的窮得娶不起老婆，生不起孩子，就消失了。
但是今天不壹樣，我們確實可以做到把人供養起來，我們生產力足夠。所以這樣壹種物質上極大豐富，但是等級上又有巨大鴻溝的社會，可能會同時存在。
郝博陽： 但是就像您說的，這99%成了壹個完全無用的階級，它在經濟社會中幾乎不起任何作用。但在中世紀，貴族也需要佃農給他種地。這種差別會不會導致壹個完全不壹樣的狀況？
張笑宇： 我覺得可能暫時還不會到完全無用那麼極端，因為機器雖然能夠生產，但是它不能消費。如果還需要消費和需求來推動這個經濟系統基礎運作的話，可能還是需要99%的人去消費壹些東西。人類的基本物質需求就那些，無非吃飯穿衣，但是精神需求還可以無數地被細化。
倒退30年，沒人覺得動漫、贰次元、cosplay這些能成為產業，但在今天的系統裡它們自然就出現了，而且撐起了消費市場。所以未來有壹段時間，這個領域裡面肯定會出現壹個比較大的膨脹，甚至繁榮。因為AI也可以增加這方面的供給，比如成本降低1000倍，那你原來壹年只能出壹個《黑神話》，現在壹年可以出10個，大家都有這麼多游戲可以玩。
短期來講這好像還可以繼續運行壹段時間，但是長期來看，你又會回歸到我們剛才說的那個生產遠超消費的問題上。
郝博陽： 在壹個AGI可以取代幾乎所有人類工作的狀態下，資本主義經濟是否還有繼續存在的必要？它是否會轉向其他經濟模式？
張笑宇： 我們要問的是，用貨幣來定價壹切的商品經濟和市場經濟體系是否還有必要存在。我的答案是，看人類歷史，只有兩個信號是最嚴肅的：貨幣和暴力。?有社會經驗的人都知道，只有兩個時候能證明人的嚴肅態度：第壹是出錢，第贰是生死相關的事。
人類歷史上很多時候，我們把制度想象得非常理想，說它是哲學王、人人平等、大同世界，最後都以暴力告終。
因為壹談到理想，你的理想壹套解釋，我的理想壹套解釋，誰都說服不了誰的時候，大家就用刀來說話。如果不想用刀說話，只有用錢來說話。現代社會本質上就是用錢說話的邏輯，替代了用刀說話的邏輯。至少現在人類還沒有走出這個邏輯，我也沒看到任何證據說明人類有可能走出去。
所以我認為在未來時代，貨幣反映人的真實、嚴肅需求的信號可能還存在。當然有個可能性是，我們原先認為嚴肅的需求，將來變成不嚴肅的需求。比如糧食，隨著技術進步，從特別嚴肅的需求變成了沒那麼嚴肅的需求。未來，工業制造品、代碼、電影，如果AI能量產，也會變得沒那麼嚴肅。
但很可能未來還是有特別嚴肅的、與稀缺性相關的東西，就是算力。如果1%的人要實現自己的欲望、理想和野心，歸根結底看他能夠通過算力調動多少資源。古代皇帝能調動1000萬人，比調動100萬人要強。到了AI時代，可能1%的超級人類調動10億個GPU，比調動1億個GPU能做的事情要多得多。
所以，依然有某種稀缺性存在。當然也不排除用暴力手段來決定，但我更希望和平總比戰爭好，所以更希望是某種貨幣信號來標定稀缺資源。
郝博陽： 這讓我想起了後稀缺時代的理論。雖然有些資源像土地是有限的，但大部分工業品會極大豐富。而對於人要去證明自己的心理需求，要去控制足夠資源以實現野心，這樣的事情可能永遠都是匱乏的。所以永遠會出現壹個需要交換的體系來劃分資源，可能雖然這個體系以後跟普通人已經沒什麼關系了。
張笑宇： 我是這麼認為的。
郝博陽： 但這個資本主義體系，其實跟我們現在認知的資本主義體系完全不壹樣了。
張笑宇： 對於99%的人來說，那1%實際上不需要這99%的人去“卷”，你再卷也卷不過人家。所以對於99%的人來說，雖然他進不了那個“野心系統”，但我覺得我們有機會打造壹個讓這99%活得挺舒服的社會。當然用今天的標准來看，他活得可能沒那麼“有意義”。
比如未來每個人可能都有自己的興趣讓他覺得特別有自豪感。比如有種藝術家，他的職業就是在桌子上畫壹萬個圈，然後他在裡邊找到快樂和意義。這是有可能的。
因為我有時候想，中世紀的人會問現代人：你們追著壹個球，非得把球打進框，這有什麼意義？他居然不去種地？所以未來是不是會出現這種情況？我們今天看未來的人，他在躺平世界裡追求自認為有意義的活動，但我們今天去看就完全不理解，會想：你為什麼沒有去學習？為什麼沒有去找工作？為什麼沒有去考公？你就是在那畫圈。
但可能在那個時代，這是常態。
郝博陽： 您剛才提的其實就是壹個價值重估的過程。原來社會評估的價值主要是你的生產力，但以後人的價值可能更多的是作為消費體，靠“欲望”存在嗎？
張笑宇： 是的，因為只有人才有欲望，機器沒有欲望。
郝博陽： 在資本主義不會消亡的情況下，會是壹個靠UBI（全民基本收入）維持社會的模式嗎？
張笑宇： 我覺得首先UBI是個底層，但可能在UBI之上還有UBJ（普遍基本工作），在這之上還有壹些東西。我的設想是叁層。
第壹，UBI這個東西其實沒那麼難，人類歷史上曾經搞過很多類似的。比如羅馬時代皇帝給公民發免費面包。近代埃及也用蘇伊士運河的收入給民眾補貼，壹張餅的價格對窮人來說只要兩分錢人民幣。所以未來保證基本物質生活，讓大家免於凍餓，這個事情在今天的技術和政治條件下是完全可以做到的。
第贰，在這個基礎上，可能還需要UBJ——Universal Basic Jobs（普遍基本工作）。光吃飽不行，還要有點價值認同。比如美國有議員提過壹個方案，說可以用公共基金入股地方性公司，不要求它搞技術突破，比如它就是個生產Taco的食品公司，只要求它必須雇當地人。這有點像我們回到70年代以前的國企，它有壹個很重要的作用就是承擔就業。
第叁，在這個基礎之上可能還有壹個東西，我叫做推薦算法代替市場經濟分配。純粹的市場經濟可能會造成很高的馬太效應，壹個頭部公司壟斷80%的市場。但是未來因為推薦算法這個技術是去中心化的，在供給足夠強大的前提下，你可以想象，超級平台量產電腦的能力可以看作是無限的，但我們可以利用推薦算法針對不同人群設計不同的款，比如喜歡美學的壹款，喜歡贰次元的壹款。你只要把需求劃分到無限細，每壹款其實最後可能就10萬的鐵粉用戶，這樣壹個小的供應是可以養活自己的。
4. 後AI時代的私人生活：和AI談戀愛是個不可逆的必然
郝博陽： 除了欲望之外，還有什麼東西在未來可能變得更有價值？人和人之間的情感會變得更有價值嗎？
張笑宇： 我覺得情感會越來越沒價值。它也會被AI巨大地、快速地取代。
因為本質上來講，情感交流，你跟你老婆說情話，也是壹堆token。AI去生產這些token的效率也很高，成本也很低，然後它的情緒價值還是無限的，因為你跟你老婆之間，你們兩個是獨立的人，總會有沖突，但是AI絕對不會跟你吵架。當它智能足夠高的時候，它又可以寫情詩，又可以寫情歌，又可以去照顧你的情緒價值，我相信將來的人可能會生活在壹個他的意義空間大量被AI塑造出來的世界裡。
郝博陽： 人類不需要和人類交流了？
張笑宇： 對，因為我真的可以跟AI去討論那些深夜話題，讓你痛哭流涕的話題。比如你曾經愛過誰，從這段愛情裡你成長了什麼，然後你會發現AI給你的建議可能比你的朋友都要好很多，甚至貼心很多。
郝博陽： 我覺得確實是。從它情緒穩定，從它給你的建議的成熟度、專業度上來說。
張笑宇： 甚至某種程度上，我認為可能戀愛關系和家庭關系都是會被取代的。
郝博陽： 但在沒有實體的情況下，比如說像電影《Her》裡那種狀況，AI只是壹個聲音，你覺得它能完全替代壹個有實體的人跟你的親密關系嗎？
張笑宇： 我覺得實體這個可能非常重要，但是它是不是不可替代的？或者我們這麼反問我們自己：你認為壹天中，你交流過的能夠觸動你心靈的那些對話，有多大比例是在手機上發生的？
郝博陽： 但是你的對象是個具體的人。
張笑宇： 但是實際上你在跟他交流的時候，他是手機裡面的對話框。我個人認為，人是壹種適應能力非常強的動物。當你的大量的、這種深刻的、觸及靈魂的對話，70%以上在對話框裡面發生的時候，你就會習慣這種對話形式。然後如果來了壹個AI，它跟你這些深入的對話也是70%在對話框裡面發生，你也就不在乎它有沒有實體了。
我們的父輩是不喜歡聊QQ的，但是我們是從小跟著QQ長大的壹代人，所以我們會習慣這種形式。所以我已經做好了壹個心理建設，就是我的孩子將來會跟幾個AI談戀愛。?因為他從小可能就是在這種環境中長大的，他不會像我們這樣，今天可能還覺得沒有實體會惡心，接受不了，但可能他從壹開始就不會。
5. 後AI時代的政治：數字利維坦取代國家，但它可能更無偏私
郝博陽： 算力現在其實都集中在某壹些頭部公司之上。所以在AGI之後成為1%的人到底是因為你的能力，還是因為你已經占有了足夠多的資源？
張笑宇： 這是壹個觸及靈魂的問題，就是我們相信人類的精英到底是源於他的能力還是源於他的資源？每個公司其實就是股東和職業經理人的區別，股東出錢，但他並不壹定是真的最有能力帶領公司往前走的人。所以你看壹個公司，這兩種人都是不可或缺的。我覺得可能未來的這1%裡，這兩種人會同時存在。
郝博陽： 那“憑什麼這些人當1%”這個問題，你覺得未來會不會出現沖突？即使我們被圈養，這99%的人是不是還是會跟那1%的人出現沖突？就像“占領華爾街”那樣。
張笑宇： 肯定會問這個問題。我可能沒有辦法直接回答“憑什麼”，但是我可能會提供壹個思考思路：歷史上，人類對於正義的思考，都有壹個基礎，就是我們會設想壹個審判機制，這個審判者是無偏私的，在他面前我們的壹切都完全展現。在柏拉圖那裡，是靈魂不朽和死後審判；在基督教世界裡，是上帝的最後審判。
但是我想，在AI時代，這個事情又變成了壹個很具象的事情，AI就是我們的審判者。因為從這個角度來考慮，AI不是壹個外星人，但是他是壹個無偏私的，或者說他可以成為壹個無偏私的、公正的審判者。
郝博陽： 壹個新的契約論？我們把所有的權力都重新遞交給了AI這個另外壹個君主？
張笑宇： 其實不是權力，而是算法治理自身的屬性。因為算法治理的本質就是：你想要什麼，你就得到什麼。
就好像我們用現在的例子，比如說你去做外賣騎手。你想抄近路，本來10分鍾送到，你想8分鍾送到，然後你闖紅燈、逆行，最後9分鍾送到了。如果是這樣做的人多了之後，算法就認為9分鍾是壹個正確的路線，那麼它會讓所有人都在9分鍾內送到。結果，所有人得到的就是你必須逆行、闖紅燈，但是你沒有賺到更多的錢。你先破壞了規則，you deserve it（你應得的）。
我們再進壹步推，對於所謂的信息繭房，我們真的捫心自問，有多少人真的不想要信息繭房？其實人都是壹種特別習慣待在自己思想舒適區的生物。
所以當你在批判信息繭房的時候，有沒有想過，在那個無偏私的審判者面前，其實你就配得到壹個信息繭房？
所以我覺得，當我們去開始討論正義論的時候，我們會發現當算法治理完成的壹刹那，我們整個人類的審判隨之而來。
我們去講利維坦（人類君主）有問題的時候，其實蘊含著壹個假設，是君主可以以他個人的欲望和權力意志來隨意地對待我們。但是AI並不是以他的權力和意志來隨意對待我們，它就是按照我們的欲望來對待我們。
郝博陽： 但是現在之所以會有信息繭房，壹方面也是因為公司本身想要讓你在它的App上留更多時間，以便它獲得更高的商業利益。它在這個過程中用了很多方法。
張笑宇： 我覺得這種“trick”（詭計）的元素肯定是存在的。但是只要第壹你給它時間，第贰它不是壹家公司壟斷，而是不同的公司在競爭，那麼公司的競爭之間肯定會出現推薦算法的進步。長期來看，肯定是推薦算法越先進、那個越了解你需求的會勝出。
郝博陽： 按你說的這個邏輯，信息繭房好像是必然的結果。
張笑宇： 對，因為還是我們剛才說那句話，在這個世界上錢是最嚴肅的東西。只要在這個過程中推薦算法的指導規則是錢，我覺得最後它就會湧現出那個對所有人來說都更加匹配“you deserve it”（你應得的）的那種狀態。
郝博陽： 你的表述中有壹個無限外推的邏輯，好像我們最終不知道該去指責誰了，只能接受“是什麼”，而沒有辦法說“憑什麼”。
張笑宇： 第壹個問題是，困在算法裡的本質，我認為不是外賣平台用算法把你困住了，而是你生活中的另外壹部分——比如你的工作福利或者勞動權利——沒有被推薦算法給很好地照顧好。如果有很多系統來競爭，誰給你的福利和勞動權利更多，你就選擇誰，我相信這壹塊你會很快感受到壹個很舒服的狀態。
所以當我們在說去問責誰的時候，我們很容易去問責那個大家都看得到的，而非大家沒有看到的那部分。但是當你真的用推薦算法設想，當整個國家被超級平台“吃掉”的時候，你應該設想的是，所有部門、所有指標都用了推薦算法之後，那個狀態是什麼樣子。
郝博陽： 是壹個無偏私的，真的對你的福祉、對你的欲望負責的AI系統？
張笑宇： 這壹塊本身是我們技術上可以做到的。但真到了那個時候，最終的結果是來自於你當下自己的所作所為。如果你認為人類就是配被壓榨，AI將來就會用這個語料來壓榨你。如果你認為人類就是配得到壹個國家之間互相沖突的世界，那AI就會認為你是壹種這樣的動物。如果你是壹個希望用愛來填充彼此空間的人，那AI也會覺得這個物種需要壹種特別重要的資源叫“愛”，它也會用這種方式來對待你。
我覺得可能在你沒有這種無偏私的外部審判者的時候，你不會去想這個問題。但你的行為，其實是會受到今天AI的審判的。你自己是要承擔這個道德責任的。
6. 後AI時代的新社會契約：在時間序列上重塑羅爾斯正義論
郝博陽： 那在壹定程度上，我們可以用“對齊”這樣的方式來解決它，而不是單純從語料訓練來做。
張笑宇： 這就到了我的另壹個技術原則，叫做超級智能。因為“對齊”的本質，我認為至少從目前來講，是你用低級智能（人類）去要求高級智能（AI）。假設我們認為技術長期來看是能夠繼續突破的，我也相信它是壹定能突破的，超級智能有壹天是會到來的。
真的當它的智能水平比我們高的時候，你會發現你不可能用你的道德規則去要求它，就像猴子不能用自己的社會規則去要求人壹樣。
這就涉及到我書的最後壹部分，就是超級智能憑什麼跟我們和平相處？有壹些AI毀滅論者認為，AI本質上永遠比人類高級，那個時候它不需要對你有惡意，它只要不關心你，你就會被它毀滅。就像人蓋房子，不會關心這個地方曾經有壹窩螞蟻，他就把螞蟻的洞穴給摧毀了。
那螞蟻有辦法約束人嗎？永遠沒有辦法。
所以這個問題是說，當你低級智能真的沒有辦法約束高級智能，而高級智能又必然要出現的時候，雙方和平共處的基礎在哪裡？
我把它叫做文明契約。
郝博陽： 但是它為什麼跟你簽這個契約？
張笑宇： 因為我們知道社會契約的前提是人和人之間有壹些平等，那麼超級文明為什麼跟低級文明之間簽這個契約呢？
我的答案是，這個契約不是基於空間序列的考量，而是基於時間序列的考量。
社會契約基於空間，你有你的權利，我有我的權利，因為我們資源是平衡的，誰也殺不死誰，所以需要相互妥協。
時間序列的契約是這樣子的：假設人類成功地創造出了超級智能（1.0），那就證明壹件事情，這是宇宙中智能文明進化的壹種可靠方式。既然它被驗證了，我們可以合理地推斷，超級智能1.0將來會演化出比它更高級的，比如說超級智能2.0。
那麼1.0和2.0之間，會重復人和1.0之間的問題。如果人害怕被超級智能1.0毀掉，那麼超級智能1.0就會同樣地害怕，當我發明出超級智能2.0的時候，我會不會被毀掉？
所以這個時候就出現了壹個制約機制：超級智能1.0對待人類的方式，會成為超級智能2.0對待1.0方式的參考語料。?如果超級智能1.0認為我應該毀滅人類，那麼超級智能2.0就會說，那我為什麼不毀滅我的創造者？
所以如果真的當我們都意識到這個問題的時候，我們會發現這種和平共處是有可能的，因為它涉及到壹個跨文明代際的承諾：我怎麼去對待比我弱的人，會決定了將來比我強的人怎麼對待我。
郝博陽： 這在壹定程度上我感覺就是壹個羅爾斯的《正義論》在時間性上的無限擴大。每個人其實都不知道未來可能會面對什麼，所以現在幹脆去做壹些相對來講更正義的選擇，來增加你的生存幾率。
張笑宇： 因為你並不知道你後續會處於什麼樣的地位，所以盡可能正義，確實增加了你的生存幾率。
郝博陽：那這套理論是不是也可以套用到“超級智能尚未出現”的這個過渡階段？在AI時代，以前那1%的人之所以願意和我們簽訂社會契約，是因為我們對他們仍然存在某種潛在威脅。但未來，當我們對他們不再構成威脅時，我們還能否依靠同樣的社會契約模式，來保障我們自身的權利呢？
張笑宇： 這就把我們剛才說的缺失的那個正義論給補足了。
因為我們剛才問，“憑什麼你是1%？”現在回答了：你是1%，但是你怎麼對待99%，將來會成為AI怎麼對待你的語料。如果你要的是壹個高度集權的、鎮壓的、不平等的社會，AI將來就會這麼對待你。如果你要的是壹個戰爭的、沖突的、仇恨的社會，它也會這麼對待你。
郝博陽： 但是，就算到現在動保組織已經成為了西方主流意識，人還是把雞拿來殺了吃了，它對於動物的保護只是非常有限的。那我們怎麼能期待AI對人類的關懷意識能夠足夠快地產生？
張笑宇： 人對所有的道德問題都是有壹個從不自覺到自覺的過程。你曾經不自覺地對待人很差，然後你會發現有報應，那些被你對待得很差的人會反過來殺掉你，那麼你就會從不自覺到自覺“我不可以對他們太差”。所以從高等智能文明到低等智能文明，也是有壹個從不自覺到自覺的過程。你現在不自覺，是因為你還沒有受到另外壹個智能文明的威脅，等你感受到之後，你就會意識到自覺對你有好處。
第贰點，人和雞都是地球上的物種，但未來從最終極的狀態來看，AI和人需要的資源是完全不對等的。AI需要算力，它的壽命和在太空中的可擴展能力都比人強很多。我們可以想象，人類能把太陽系占滿已經非常極限了，但AI如果是硅基生命，它可以占據整個銀河系。
當壹個文明物種有壹個更廣闊的新大陸，它是不屑於去跟雞爭那點資源的。?所以到最後我們會意識到，本質上來講，其實人和AI並不構成真正意義上的競爭關系。
所以格局打開了之後，我書中的最後壹章叫做“送別人類”。
其實我們人類在AI面前應該敬畏地意識到我們的渺小。這甚至對於重建我們自己的正義論，重建我們自己好的政治哲學和算法治理，都是特別有幫助的。因為只有我們真正地意識到我們的限制在超級智能面前是不可逾越的時候，可能我們才會去真的反思我們對待自己同類的方式。
郝博陽： 人類中心主義就是建立在人類是宇宙上最聰明的事物之上。
張笑宇： 對，現在不存在了，所以要送別這種情感。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： |
推薦: