新聞 
Anthropic宣布:Claude自己長出了意識
Anthropic宣布:Claude自己長出了意識Anthropic宣布:Claude自己長出了意識
六個例子的 J-lens 讀數
Claude 讀壹段沒人指出過 bug 的代碼，J-space 裡亮起「ERROR」；讀壹串蛋白質序列的原始字母，裡面亮起這個蛋白質的生物學功能；讀壹段暗藏提示詞注入（prompt injection）的搜索結果，裡面亮起「injection」和「fake」。
視頻裡還演示了壹道數學題：給 Claude 壹個多步計算，它直接報出答案，中間步驟壹個沒寫。但掃描 J-space，能看到它在心裡壹步步算：先亮起 21，然後 42，最後 49。
這些中間數字沒有出現在任何地方，整個計算都發生在 J-space 裡。
03
換念頭實驗
當然，看到概念在裡面亮起，只能算相關性。J-space 可能是答案真正的來源，也可能只是個記分牌，被動記錄別處做出的決定。
Anthropic 的驗證方式簡單粗暴：直接下手改。
他們讓 Claude 在心裡默想壹種運動，然後說出來。在它開口前讀 J-lens，看到「Soccer」排在最前，Claude 隨後果然回答足球。接著他們伸手進神經網絡，把「Soccer」模式刪掉，原位換上壹個同等強度的「Rugby」模式，其他什麼都不動。
Claude 張口就說：我剛才想的是橄欖球。
換念頭與思維注入
如果 J-space 只是個記分牌，改它應該什麼都不會發生。答案跟著編輯走，說明答案是真的從 J-space 裡讀出來的。
反向實驗顯示：告訴 Claude「可能有壹個念頭被注入了你的思維」，然後趁它讀題時往 J-space 裡塞進「lightning」模式。Claude 回答：我檢測到了，那個念頭是關於閃電的。
換了很多概念，結果都壹樣。
04
金門大橋心算
第贰個性質是控制。
人可以有意在腦子裡聚焦壹幅畫面或壹個詞，Claude 行嗎？
視頻裡的版本是：讓 Claude 壹邊抄寫壹句無關的句子，壹邊在心裡想金門大橋（怎麼又是金門大橋……不知道還有多少人記得當年的 Golden Gate Claude）。
表面上它老老實實在抄句子，但 J-space 裡，「bridge」和「California」全程亮著，甚至連「imagery」「thoughts」這些描述思維行為本身的詞也壹起亮了。
博客裡還來了個更狠的：讓它壹邊抄寫關於壹幅畫的句子，壹邊心算 32 ? 2。J-space 裡先亮起「nine」，幾層之後，亮起「seven」。
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
Claude 讀壹段沒人指出過 bug 的代碼，J-space 裡亮起「ERROR」；讀壹串蛋白質序列的原始字母，裡面亮起這個蛋白質的生物學功能；讀壹段暗藏提示詞注入（prompt injection）的搜索結果，裡面亮起「injection」和「fake」。
視頻裡還演示了壹道數學題：給 Claude 壹個多步計算，它直接報出答案，中間步驟壹個沒寫。但掃描 J-space，能看到它在心裡壹步步算：先亮起 21，然後 42，最後 49。
這些中間數字沒有出現在任何地方，整個計算都發生在 J-space 裡。
03
換念頭實驗
當然，看到概念在裡面亮起，只能算相關性。J-space 可能是答案真正的來源，也可能只是個記分牌，被動記錄別處做出的決定。
Anthropic 的驗證方式簡單粗暴：直接下手改。
他們讓 Claude 在心裡默想壹種運動，然後說出來。在它開口前讀 J-lens，看到「Soccer」排在最前，Claude 隨後果然回答足球。接著他們伸手進神經網絡，把「Soccer」模式刪掉，原位換上壹個同等強度的「Rugby」模式，其他什麼都不動。
Claude 張口就說：我剛才想的是橄欖球。
換念頭與思維注入
如果 J-space 只是個記分牌，改它應該什麼都不會發生。答案跟著編輯走，說明答案是真的從 J-space 裡讀出來的。
反向實驗顯示：告訴 Claude「可能有壹個念頭被注入了你的思維」，然後趁它讀題時往 J-space 裡塞進「lightning」模式。Claude 回答：我檢測到了，那個念頭是關於閃電的。
換了很多概念，結果都壹樣。
04
金門大橋心算
第贰個性質是控制。
人可以有意在腦子裡聚焦壹幅畫面或壹個詞，Claude 行嗎？
視頻裡的版本是：讓 Claude 壹邊抄寫壹句無關的句子，壹邊在心裡想金門大橋（怎麼又是金門大橋……不知道還有多少人記得當年的 Golden Gate Claude）。
表面上它老老實實在抄句子，但 J-space 裡，「bridge」和「California」全程亮著，甚至連「imagery」「thoughts」這些描述思維行為本身的詞也壹起亮了。
博客裡還來了個更狠的：讓它壹邊抄寫關於壹幅畫的句子，壹邊心算 32 ? 2。J-space 裡先亮起「nine」，幾層之後，亮起「seven」。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: