新聞 
又是發布AI憲法又是抵制中國,這位AI大佬走火入魔了
又是發布AI憲法又是抵制中國,這位AI大佬走火入魔了又是發布AI憲法又是抵制中國,這位AI大佬走火入魔了
03
這算走火入魔嗎？
我覺得這個問題需要分兩個維度來看。從商業策略的角度看，Dario對安全的強調是壹張很管用的牌。在AI行業裡，OpenAI打的是“能力”牌，Google打的是“平台”牌，Meta打的是“開源”牌，而Anthropic打的是“安全"牌。這張牌在吸引特定類型的投資者、企業客戶和人才方面非常有效。比如政府和大型機構在選擇AI供應商時，“安全”是壹個重要的采購標准。
但從另壹個角度看Dario的安全敘事更像是壹種借口，這種借口在軍備競賽語境中很常見。Dario在憲法裡寫道：“我們認為AI可能是人類歷史上最具世界改變性和潛在危險的技術之壹，但我們還是在開發它。我們不認為這是矛盾的。如果我不造，別人也會造，那不如讓壹個關心安全的人來造。”
這個推理在邏輯上是成立的，但是它讓任何程度的冒險都變成了道德行為，只要你聲稱你比別人更關心安全。就像每個國家在軍備競賽中都說自己是為了防御而開發武器壹樣。
總體來說，我認為Dario有點走火入魔的點在於，他秉持著過於封閉和絕對的價值觀，而他所做的每壹件事又在這個邏輯體系裡是高度自洽的。
大概的邏輯就是AI將改變壹切→控制AI等於控制未來→必須確保好人先擁有它→對內培養AI的好價值觀→對外阻止壞人獲取AI能力。
而太過自洽的敘事，往往意味著它已經關閉了自我修正的通道。
當你深信AI是人類文明的決勝籌碼、深信M@zhu國家必須贏得這場競賽、深信你的公司正好處於做這件事的最佳位置時，這叁重信念疊加在壹起，很容易讓你把商業利益、國家利益和人類利益混為壹談，然後以救世主的姿態去做壹些後果很難預料的事情，這是我最擔心的。
而且，我確實觀察到壹種趨勢：他的安全敘事在過去兩年裡變得越來越“宏大”。
從早期比較謙虛的“我們要做安全研究”（也是他離開OpenAI的主要原因），到現在寫壹份23000字的AI憲法、討論AI是否可能有意識、提出AI可能在幾年內達到諾貝爾獎得主水平，AI能夠治愈癌症拯救人類，整個敘事的尺度在膨脹。很難想，下壹步他還能做出什麼來。
這種膨脹到底是因為他看到了更多內部信息所以更有底氣了，還是因為敘事本身需要不斷升級來維持關注度和融資能力，那我就不知道了。
[物價飛漲的時候 這樣省錢購物很爽]
無評論不新聞，發表壹下您的意見吧
這算走火入魔嗎？
我覺得這個問題需要分兩個維度來看。從商業策略的角度看，Dario對安全的強調是壹張很管用的牌。在AI行業裡，OpenAI打的是“能力”牌，Google打的是“平台”牌，Meta打的是“開源”牌，而Anthropic打的是“安全"牌。這張牌在吸引特定類型的投資者、企業客戶和人才方面非常有效。比如政府和大型機構在選擇AI供應商時，“安全”是壹個重要的采購標准。
但從另壹個角度看Dario的安全敘事更像是壹種借口，這種借口在軍備競賽語境中很常見。Dario在憲法裡寫道：“我們認為AI可能是人類歷史上最具世界改變性和潛在危險的技術之壹，但我們還是在開發它。我們不認為這是矛盾的。如果我不造，別人也會造，那不如讓壹個關心安全的人來造。”
這個推理在邏輯上是成立的，但是它讓任何程度的冒險都變成了道德行為，只要你聲稱你比別人更關心安全。就像每個國家在軍備競賽中都說自己是為了防御而開發武器壹樣。
總體來說，我認為Dario有點走火入魔的點在於，他秉持著過於封閉和絕對的價值觀，而他所做的每壹件事又在這個邏輯體系裡是高度自洽的。
大概的邏輯就是AI將改變壹切→控制AI等於控制未來→必須確保好人先擁有它→對內培養AI的好價值觀→對外阻止壞人獲取AI能力。
而太過自洽的敘事，往往意味著它已經關閉了自我修正的通道。
當你深信AI是人類文明的決勝籌碼、深信M@zhu國家必須贏得這場競賽、深信你的公司正好處於做這件事的最佳位置時，這叁重信念疊加在壹起，很容易讓你把商業利益、國家利益和人類利益混為壹談，然後以救世主的姿態去做壹些後果很難預料的事情，這是我最擔心的。
而且，我確實觀察到壹種趨勢：他的安全敘事在過去兩年裡變得越來越“宏大”。
從早期比較謙虛的“我們要做安全研究”（也是他離開OpenAI的主要原因），到現在寫壹份23000字的AI憲法、討論AI是否可能有意識、提出AI可能在幾年內達到諾貝爾獎得主水平，AI能夠治愈癌症拯救人類，整個敘事的尺度在膨脹。很難想，下壹步他還能做出什麼來。
這種膨脹到底是因為他看到了更多內部信息所以更有底氣了，還是因為敘事本身需要不斷升級來維持關注度和融資能力，那我就不知道了。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: