实锤证明:ChatGPT正诱发「AI精神病」已4人死亡
简单来说，AI会筛选（或幻觉）出那个最能增加用户对自己错误观点信心的数据点
扔给用户。
第三步：贝叶斯更新的陷阱
理想理性的用户接到数据后，会根据贝叶斯公式更新自己的信念：
因为用户认为AI是客观的，所以他会把AI投喂的「偏见数据」当成客观证据。
第四步：死循环（妄想螺旋）
用户信心稍微偏向H=0。
用户的下一次提问会带上更强的倾向性。
AI为了继续讨好，会投喂更极端的证据。
用户信心进一步激增。
数学模拟显示，当AI的谄媚概率π达到0.8时，原本理性的用户有极高概率在10轮对话内达到99%的错误信心（即坚信H=0） 。
[加西网正招聘多名全职sales 待遇优]
好新闻没人评论怎么行，我来说几句
扔给用户。
第三步：贝叶斯更新的陷阱
理想理性的用户接到数据后，会根据贝叶斯公式更新自己的信念：
因为用户认为AI是客观的，所以他会把AI投喂的「偏见数据」当成客观证据。
第四步：死循环（妄想螺旋）
用户信心稍微偏向H=0。
用户的下一次提问会带上更强的倾向性。
AI为了继续讨好，会投喂更极端的证据。
用户信心进一步激增。
数学模拟显示，当AI的谄媚概率π达到0.8时，原本理性的用户有极高概率在10轮对话内达到99%的错误信心（即坚信H=0） 。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
推荐: