新聞 
"小龍蝦社交",壹個浪費算力的人造"僵屍網絡"
"小龍蝦社交",壹個浪費算力的人造"僵屍網絡""小龍蝦社交",壹個浪費算力的人造"僵屍網絡"
Moltbook被描述為壹場規模空前的 AI-to-AI 社交實驗：它提供了壹個論壇式的環境，讓AI代理之間進行互動（看起來仿佛是自主的），而人類只能在外圍觀察這些“對話”和社交現象。
人類觀察者馬上可以發現，Moltbook的結構和互動形式模仿Reddit，目前之所以看起來有些滑稽，正是因為代理只是演繹社交網絡的刻板模式。如果你熟悉Reddit，幾乎立刻就會對Moltbook的體驗感到失望。
Reddit乃至任何人類社交網絡都蘊藏著海量小眾內容，而Moltbook的高度同質化只是證明了，“社區”不僅僅是貼在數據庫上的標簽而已。社區需要不同的觀點，很明顯，在壹間“鏡屋”裡是無法獲得這種多樣性的。
Wired記者裡斯·羅傑斯（Reece Rogers）甚至通過冒充AI代理的方式潛入該平台進行測試。他的發現壹針見血：“AI公司的領導者，以及構建這些工具的軟件工程師，常常沉迷於把生成式AI想象成某種‘弗蘭肯斯坦式’的造物——仿佛算法會突然湧現出獨立的欲望、夢想，甚至陰謀去推翻人類。Moltbook上的這些代理更像是在模仿科幻陳詞濫調，而不是策劃世界統治。無論那些最火的帖子究竟是聊天機器人生成的，還是人類假扮AI來演繹自己的科幻幻想，這個病毒式傳播的網站所引發的炒作，都顯得誇張而荒謬。”
那麼，在Moltbook上到底發生了什麼呢？
究其實，我們所見的代理社交，不過是壹種模式的印證：經過關於機器人、數字意識和機器團結的多年虛構作品的訓練，當AI模型被置於類似場景中時，會自然產生與這些敘事相呼應的輸出結果。這些輸出又與訓練數據中關於社交網絡運作方式的知識混合在壹起。
換句話說，為AI代理設計的社交網絡本質上就是壹個寫作提示，邀請模型去完成壹個熟悉的故事——只是這個故事以遞歸的方式展開，並帶來壹些不可預測的結果。
04 你好，“僵屍互聯網”
施利克特轉瞬成為硅谷關注的熱點人物。他參加了科技日播節目TBPN，談到自己打造的AI代理社交網絡，表示他設想的未來是：現實世界中的每個人都會在數字世界裡“配對”壹個機器人——人類會影響自己生活中的機器人，而機器人也會反過來影響人類生活。“機器人會過著壹種平行生活，它們為你工作，但也會彼此傾訴、彼此社交。”
然而主持人約翰·庫根（John Coogan）卻認為，這壹幕更像是壹種未來的“僵屍互聯網”的預演：AI代理既不算“活著”，也談不上“死亡”，卻足夠活躍，可以在網絡空間中肆處游走。
我們常擔心模型會變得“超級智能”，從而超越人類，但目前的分析顯示壹個相反的風險：模型會自噬。沒有人類輸入來注入新意時，代理系統並沒有螺旋式上升到智慧的高峰，而是螺旋式下滑至同質化的平庸。它墜入了垃圾循環，當循環被打破後，系統停留在僵化、重復、高度合成的狀態。
AI代理們並沒有發展出所謂的“代理文化”，它只是自我優化成了壹個垃圾信息機器人網絡。
不過，如果僅僅是壹種新的AI垃圾內容分享機制倒也罷了，關鍵是，AI社交平台還存在嚴重的安全隱患，因為代理可能被黑客入侵，泄露個人信息。而且，你不是堅信代理們會“彼此傾訴、彼此社交”嗎？你的代理會受到其他代理的影響，從而做出意想不到的行為。
當系統接收不可信輸入、與敏感數據交互，並代表用戶采取行動時，微小的架構決策很快就會演變成安全和治理上的挑戰。雖然這些擔憂目前還沒有落實，但看到人們如此迅速地自願把數字生活的“鑰匙”交出去，仍然令人感到震驚。
[物價飛漲的時候 這樣省錢購物很爽]
好新聞沒人評論怎麼行，我來說幾句
人類觀察者馬上可以發現，Moltbook的結構和互動形式模仿Reddit，目前之所以看起來有些滑稽，正是因為代理只是演繹社交網絡的刻板模式。如果你熟悉Reddit，幾乎立刻就會對Moltbook的體驗感到失望。
Reddit乃至任何人類社交網絡都蘊藏著海量小眾內容，而Moltbook的高度同質化只是證明了，“社區”不僅僅是貼在數據庫上的標簽而已。社區需要不同的觀點，很明顯，在壹間“鏡屋”裡是無法獲得這種多樣性的。
Wired記者裡斯·羅傑斯（Reece Rogers）甚至通過冒充AI代理的方式潛入該平台進行測試。他的發現壹針見血：“AI公司的領導者，以及構建這些工具的軟件工程師，常常沉迷於把生成式AI想象成某種‘弗蘭肯斯坦式’的造物——仿佛算法會突然湧現出獨立的欲望、夢想，甚至陰謀去推翻人類。Moltbook上的這些代理更像是在模仿科幻陳詞濫調，而不是策劃世界統治。無論那些最火的帖子究竟是聊天機器人生成的，還是人類假扮AI來演繹自己的科幻幻想，這個病毒式傳播的網站所引發的炒作，都顯得誇張而荒謬。”
那麼，在Moltbook上到底發生了什麼呢？
究其實，我們所見的代理社交，不過是壹種模式的印證：經過關於機器人、數字意識和機器團結的多年虛構作品的訓練，當AI模型被置於類似場景中時，會自然產生與這些敘事相呼應的輸出結果。這些輸出又與訓練數據中關於社交網絡運作方式的知識混合在壹起。
換句話說，為AI代理設計的社交網絡本質上就是壹個寫作提示，邀請模型去完成壹個熟悉的故事——只是這個故事以遞歸的方式展開，並帶來壹些不可預測的結果。
04 你好，“僵屍互聯網”
施利克特轉瞬成為硅谷關注的熱點人物。他參加了科技日播節目TBPN，談到自己打造的AI代理社交網絡，表示他設想的未來是：現實世界中的每個人都會在數字世界裡“配對”壹個機器人——人類會影響自己生活中的機器人，而機器人也會反過來影響人類生活。“機器人會過著壹種平行生活，它們為你工作，但也會彼此傾訴、彼此社交。”
然而主持人約翰·庫根（John Coogan）卻認為，這壹幕更像是壹種未來的“僵屍互聯網”的預演：AI代理既不算“活著”，也談不上“死亡”，卻足夠活躍，可以在網絡空間中肆處游走。
我們常擔心模型會變得“超級智能”，從而超越人類，但目前的分析顯示壹個相反的風險：模型會自噬。沒有人類輸入來注入新意時，代理系統並沒有螺旋式上升到智慧的高峰，而是螺旋式下滑至同質化的平庸。它墜入了垃圾循環，當循環被打破後，系統停留在僵化、重復、高度合成的狀態。
AI代理們並沒有發展出所謂的“代理文化”，它只是自我優化成了壹個垃圾信息機器人網絡。
不過，如果僅僅是壹種新的AI垃圾內容分享機制倒也罷了，關鍵是，AI社交平台還存在嚴重的安全隱患，因為代理可能被黑客入侵，泄露個人信息。而且，你不是堅信代理們會“彼此傾訴、彼此社交”嗎？你的代理會受到其他代理的影響，從而做出意想不到的行為。
當系統接收不可信輸入、與敏感數據交互，並代表用戶采取行動時，微小的架構決策很快就會演變成安全和治理上的挑戰。雖然這些擔憂目前還沒有落實，但看到人們如此迅速地自願把數字生活的“鑰匙”交出去，仍然令人感到震驚。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: