新聞 
Anthropic宣布:Claude自己長出了意識
Anthropic宣布:Claude自己長出了意識Anthropic宣布:Claude自己長出了意識
Anthropic 剛剛發了壹篇新研究，標題非常之玄學：《語言模型中的全局工作空間》（A global workspace in language models）。
研究封面
他們在 Claude 的神經網絡裡，找到了壹小塊特殊的區域：Claude 能報告它、能控制它、還靠它做多步推理。而網絡裡其余的絕大部分活動，Claude 自己都「意識」不到。
如果你對神經科學有點了解，大概會立刻聯想到壹個詞：意識可及（conscious access）。
沒錯，A 社這次就是沖著這個去的。
官方視頻的開頭打了個比方：把心智想象成壹片海洋。
海面上漂著的，是我們的念頭：晚飯吃什麼、內心獨白、腦子裡突然蹦出來的畫面。而大腦絕大部分的活動，都發生在海面之下的無意識深處：過濾背景噪音、控制呼吸、認出眼前的人和物。
這些你全程無感，但它們壹直在跑。
那麼問題來了：AI 模型的「腦子」裡，會不會也有這樣壹條海面分界線呢？
Anthropic 的答案是：有，而且他們把它找出來了。
01
J-space
這塊區域被命名為 J-space，J 取自尋找它所用的數學工具：Jacobian（雅可比矩陣）。
它是壹小撮特殊的內部神經激活模式。每個模式都對應壹個具體的詞，但某個模式亮起來，並不代表模型正在說這個詞，只代表這個詞「在它心上」。
J-space 示意
[物價飛漲的時候 這樣省錢購物很爽]
無評論不新聞，發表壹下您的意見吧
研究封面
他們在 Claude 的神經網絡裡，找到了壹小塊特殊的區域：Claude 能報告它、能控制它、還靠它做多步推理。而網絡裡其余的絕大部分活動，Claude 自己都「意識」不到。
如果你對神經科學有點了解，大概會立刻聯想到壹個詞：意識可及（conscious access）。
沒錯，A 社這次就是沖著這個去的。
官方視頻的開頭打了個比方：把心智想象成壹片海洋。
海面上漂著的，是我們的念頭：晚飯吃什麼、內心獨白、腦子裡突然蹦出來的畫面。而大腦絕大部分的活動，都發生在海面之下的無意識深處：過濾背景噪音、控制呼吸、認出眼前的人和物。
這些你全程無感，但它們壹直在跑。
那麼問題來了：AI 模型的「腦子」裡，會不會也有這樣壹條海面分界線呢？
Anthropic 的答案是：有，而且他們把它找出來了。
01
J-space
這塊區域被命名為 J-space，J 取自尋找它所用的數學工具：Jacobian（雅可比矩陣）。
它是壹小撮特殊的內部神經激活模式。每個模式都對應壹個具體的詞，但某個模式亮起來，並不代表模型正在說這個詞，只代表這個詞「在它心上」。
J-space 示意
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: