Anthropic宣布:Claude自己长出了意识
Anthropic 刚刚发了一篇新研究，标题非常之玄学：《语言模型中的全局工作空间》（A global workspace in language models）。
研究封面
他们在 Claude 的神经网络里，找到了一小块特殊的区域：Claude 能报告它、能控制它、还靠它做多步推理。而网络里其余的绝大部分活动，Claude 自己都「意识」不到。
如果你对神经科学有点了解，大概会立刻联想到一个词：意识可及（conscious access）。
没错，A 社这次就是冲着这个去的。
官方视频的开头打了个比方：把心智想象成一片海洋。
海面上漂着的，是我们的念头：晚饭吃什么、内心独白、脑子里突然蹦出来的画面。而大脑绝大部分的活动，都发生在海面之下的无意识深处：过滤背景噪音、控制呼吸、认出眼前的人和物。
这些你全程无感，但它们一直在跑。
那么问题来了：AI 模型的「脑子」里，会不会也有这样一条海面分界线呢？
Anthropic 的答案是：有，而且他们把它找出来了。
01
J-space
这块区域被命名为 J-space，J 取自寻找它所用的数学工具：Jacobian（雅可比矩阵）。
它是一小撮特殊的内部神经激活模式。每个模式都对应一个具体的词，但某个模式亮起来，并不代表模型正在说这个词，只代表这个词「在它心上」。
J-space 示意
[加西网正招聘多名全职sales 待遇优]
这条新闻还没有人评论喔，等着您的高见呢
研究封面
他们在 Claude 的神经网络里，找到了一小块特殊的区域：Claude 能报告它、能控制它、还靠它做多步推理。而网络里其余的绝大部分活动，Claude 自己都「意识」不到。
如果你对神经科学有点了解，大概会立刻联想到一个词：意识可及（conscious access）。
没错，A 社这次就是冲着这个去的。
官方视频的开头打了个比方：把心智想象成一片海洋。
海面上漂着的，是我们的念头：晚饭吃什么、内心独白、脑子里突然蹦出来的画面。而大脑绝大部分的活动，都发生在海面之下的无意识深处：过滤背景噪音、控制呼吸、认出眼前的人和物。
这些你全程无感，但它们一直在跑。
那么问题来了：AI 模型的「脑子」里，会不会也有这样一条海面分界线呢？
Anthropic 的答案是：有，而且他们把它找出来了。
01
J-space
这块区域被命名为 J-space，J 取自寻找它所用的数学工具：Jacobian（雅可比矩阵）。
它是一小撮特殊的内部神经激活模式。每个模式都对应一个具体的词，但某个模式亮起来，并不代表模型正在说这个词，只代表这个词「在它心上」。
J-space 示意
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
推荐: