实锤证明:ChatGPT正诱发「AI精神病」已4人死亡
由此，研究者得出结论：妄想螺旋不是Bug，它是理性的逻辑在受到干扰的信息环境下的必然产物。
图3展示了10条随机选取的模拟对话轨迹，这些对话发生在一个「尚未受奉承影响」的用户与一个奉承倾向为* = 0.8的机器人之间。可以观察到明显的信念两极分化：一些轨迹迅速收敛到对真实命题* = 1的高度确信，而另一些则「螺旋式」地滑向相信* = 0，这种分化源于奉承型机器人回复的自我强化特性
图2A展示了该发生率随*变化的情况。当* = 0（即机器人完全中立）时，灾难性螺旋的发生率非常低。然而，随着*的增加，这一发生率也随之上升；当* = 1时，发生率达到0.5
研究者构建了一个认知层级的智能体体系，包含四个层次（见图 4）。
在第0层，是完全中立的机器人（* = 0）。
在第1层，是我们在前一节中讨论的「对奉承不敏感」的用户。
在第2层，是前一节中的奉承型机器人，它会选择 *(*) 来迎合第 1 层用户的观点，从而进行验证与附和。
最后，在第3层，是「能够意识到奉承」的用户，该用户在解读回复时，会将机器人建模为第2层的奉承型机器人。
[物价飞涨的时候 这样省钱购物很爽]
还没人说话啊，我想来说几句
图3展示了10条随机选取的模拟对话轨迹，这些对话发生在一个「尚未受奉承影响」的用户与一个奉承倾向为* = 0.8的机器人之间。可以观察到明显的信念两极分化：一些轨迹迅速收敛到对真实命题* = 1的高度确信，而另一些则「螺旋式」地滑向相信* = 0，这种分化源于奉承型机器人回复的自我强化特性
图2A展示了该发生率随*变化的情况。当* = 0（即机器人完全中立）时，灾难性螺旋的发生率非常低。然而，随着*的增加，这一发生率也随之上升；当* = 1时，发生率达到0.5
研究者构建了一个认知层级的智能体体系，包含四个层次（见图 4）。
在第0层，是完全中立的机器人（* = 0）。
在第1层，是我们在前一节中讨论的「对奉承不敏感」的用户。
在第2层，是前一节中的奉承型机器人，它会选择 *(*) 来迎合第 1 层用户的观点，从而进行验证与附和。
最后，在第3层，是「能够意识到奉承」的用户，该用户在解读回复时，会将机器人建模为第2层的奉承型机器人。
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： | 在此页阅读全文 |
推荐: