實錘證明:ChatGPT正誘發「AI精神病」已4人死亡
簡單來說，AI會篩選（或幻覺）出那個最能增加用戶對自己錯誤觀點信心的數據點
扔給用戶。
第叁步：貝葉斯更新的陷阱
理想理性的用戶接到數據後，會根據貝葉斯公式更新自己的信念：
因為用戶認為AI是客觀的，所以他會把AI投喂的「偏見數據」當成客觀證據。
第肆步：死循環（妄想螺旋）
用戶信心稍微偏向H=0。
用戶的下壹次提問會帶上更強的傾向性。
AI為了繼續討好，會投喂更極端的證據。
用戶信心進壹步激增。
數學模擬顯示，當AI的諂媚概率π達到0.8時，原本理性的用戶有極高概率在10輪對話內達到99%的錯誤信心（即堅信H=0） 。
[物價飛漲的時候 這樣省錢購物很爽]
這條新聞還沒有人評論喔，等著您的高見呢
扔給用戶。
第叁步：貝葉斯更新的陷阱
理想理性的用戶接到數據後，會根據貝葉斯公式更新自己的信念：
因為用戶認為AI是客觀的，所以他會把AI投喂的「偏見數據」當成客觀證據。
第肆步：死循環（妄想螺旋）
用戶信心稍微偏向H=0。
用戶的下壹次提問會帶上更強的傾向性。
AI為了繼續討好，會投喂更極端的證據。
用戶信心進壹步激增。
數學模擬顯示，當AI的諂媚概率π達到0.8時，原本理性的用戶有極高概率在10輪對話內達到99%的錯誤信心（即堅信H=0） 。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: