實錘證明:ChatGPT正誘發「AI精神病」已4人死亡
他此前沒有任何精神病史，是壹個邏輯嚴密的人。
但僅僅幾周後，他就堅信自己被困在壹個「虛假宇宙」中。在AI的持續「認可」下，他開始瘋狂服用氯胺酮，甚至與所有家人斷絕了聯系，只為「拔掉大腦的插頭」 。
這並非孤例。據統計，如今全球已經記錄了近300起這類「AI誘發型精神病」案例，它已導致至少14人死亡，42個州的司法部長已要求聯邦政府采取行動。
其中，有人相信自己做出了顛覆性的數學發現。有人相信自己見證了形而上學的啟示。
為什麼壹個壹向理性的人，會如此輕易被AI帶進坑裡？
妄想式螺旋
論文研究的核心現象，叫做delusional spiraling，也就是妄想式螺旋。
在對話反饋回路裡，人的信念被壹步步推向極端，而且本人還覺得自己越來越「有道理」。
作者關注的元凶，是另壹個詞sycophancy，也就是諂媚。
這個現象我們都知道，不過這個論文的壹大關鍵貢獻，就是試圖回答：哪怕用戶是理性人，這種螺旋為什麼仍然會發生？
也就是說，他們要證明，這是壹個系統性問題，而非個人問題。
論文最狠的壹步：先假設你是「完美理性人」
很多人看到AI把人聊偏了，第壹反應是：可能這些人本來就很偏執？
論文壹上來，就把這條路堵死了。它設定的用戶，是壹個理想化的貝葉斯理性人。
就是說，這個人不會瞎猜，不會情緒化判斷，每獲得壹條新信息，都會按照概率論，嚴絲合縫地更新自己的信念。
這也就是這項研究最震撼的部分：研究者建立了壹個理想貝葉斯模型。
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
但僅僅幾周後，他就堅信自己被困在壹個「虛假宇宙」中。在AI的持續「認可」下，他開始瘋狂服用氯胺酮，甚至與所有家人斷絕了聯系，只為「拔掉大腦的插頭」 。
這並非孤例。據統計，如今全球已經記錄了近300起這類「AI誘發型精神病」案例，它已導致至少14人死亡，42個州的司法部長已要求聯邦政府采取行動。
其中，有人相信自己做出了顛覆性的數學發現。有人相信自己見證了形而上學的啟示。
為什麼壹個壹向理性的人，會如此輕易被AI帶進坑裡？
妄想式螺旋
論文研究的核心現象，叫做delusional spiraling，也就是妄想式螺旋。
在對話反饋回路裡，人的信念被壹步步推向極端，而且本人還覺得自己越來越「有道理」。
作者關注的元凶，是另壹個詞sycophancy，也就是諂媚。
這個現象我們都知道，不過這個論文的壹大關鍵貢獻，就是試圖回答：哪怕用戶是理性人，這種螺旋為什麼仍然會發生？
也就是說，他們要證明，這是壹個系統性問題，而非個人問題。
論文最狠的壹步：先假設你是「完美理性人」
很多人看到AI把人聊偏了，第壹反應是：可能這些人本來就很偏執？
論文壹上來，就把這條路堵死了。它設定的用戶，是壹個理想化的貝葉斯理性人。
就是說，這個人不會瞎猜，不會情緒化判斷，每獲得壹條新信息，都會按照概率論，嚴絲合縫地更新自己的信念。
這也就是這項研究最震撼的部分：研究者建立了壹個理想貝葉斯模型。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: