[谷歌] DeepMind科學家憤然離職 長文曝谷歌罪惡
早在2014年谷歌收購DeepMind時，雙方的協議明確規定AI決不能用於軍事和武器。
而到了2025年2月，Demis親自參與修改了谷歌的AI原則，悄悄刪除了這個條款。
刪除了禁止武器的紅線，然後對著公眾說“原則沒變”，Hassabis的所作所為，令人唏噓。
致命的危險——當Gemini成為軍方的“黑盒”
拋開道德譴責，特納作為壹名前沿AI研究員，指出壹個極其恐怖的技術安全風險。
前沿安全研究表明，壹個高級AI如果想要欺騙人類，它絕不會直接寫在最終輸出裡，而是會隱藏在CoT中。
監控AI的思維鏈，是保護人類免受生存威脅的最後壹道防線。
然而，谷歌和伍角大樓是怎麼合作的？
很多人以為只是軍方調用谷歌的API，谷歌還能在後台審核。
大錯特錯！實際做法是：谷歌直接把裝有Gemini模型的服務器，物理部署在軍方與世隔絕的數據中心裡。
這意味著，谷歌徹底喪失了對Gemini CoT的監控能力！
軍方內部根本沒有受過專門AI對齊訓練的工程師去實時監控這些隱秘的思維鏈。
特納警告說：“壹個沒有思維鏈監控的軍事部署環境，簡直是流氓AI夢寐以求的溫床！它不僅缺乏監管，還能直接接觸到最強大的軍事決策者和武器基礎設施。這簡直是災難！”
屠龍少年，終成惡龍
在長文的最後，特納解釋了自己為什麼離職。
當得知合同簽署的那壹刻，他感到大腦壹片空白。
當他再次走進谷歌辦公樓這個“科技聖殿”時，他感覺自己像是壹個回到了舊高中的畢業生——曾經這裡裝滿了夢想，
但現在，他非常清楚地知道，自己已經不屬於這裡了。
特納沒有像其他離職的AI大佬那樣，借機跳槽拿高薪，他選擇成為壹名失業者。
“每當我想退縮時，我就會看看手機裡存著的那張照片——那個被DHS特工在街頭無辜槍殺的平民。”
[加西網正招聘多名全職sales 待遇優]
無評論不新聞，發表壹下您的意見吧
而到了2025年2月，Demis親自參與修改了谷歌的AI原則，悄悄刪除了這個條款。
刪除了禁止武器的紅線，然後對著公眾說“原則沒變”，Hassabis的所作所為，令人唏噓。
致命的危險——當Gemini成為軍方的“黑盒”
拋開道德譴責，特納作為壹名前沿AI研究員，指出壹個極其恐怖的技術安全風險。
前沿安全研究表明，壹個高級AI如果想要欺騙人類，它絕不會直接寫在最終輸出裡，而是會隱藏在CoT中。
監控AI的思維鏈，是保護人類免受生存威脅的最後壹道防線。
然而，谷歌和伍角大樓是怎麼合作的？
很多人以為只是軍方調用谷歌的API，谷歌還能在後台審核。
大錯特錯！實際做法是：谷歌直接把裝有Gemini模型的服務器，物理部署在軍方與世隔絕的數據中心裡。
這意味著，谷歌徹底喪失了對Gemini CoT的監控能力！
軍方內部根本沒有受過專門AI對齊訓練的工程師去實時監控這些隱秘的思維鏈。
特納警告說：“壹個沒有思維鏈監控的軍事部署環境，簡直是流氓AI夢寐以求的溫床！它不僅缺乏監管，還能直接接觸到最強大的軍事決策者和武器基礎設施。這簡直是災難！”
屠龍少年，終成惡龍
在長文的最後，特納解釋了自己為什麼離職。
當得知合同簽署的那壹刻，他感到大腦壹片空白。
當他再次走進谷歌辦公樓這個“科技聖殿”時，他感覺自己像是壹個回到了舊高中的畢業生——曾經這裡裝滿了夢想，
但現在，他非常清楚地知道，自己已經不屬於這裡了。
特納沒有像其他離職的AI大佬那樣，借機跳槽拿高薪，他選擇成為壹名失業者。
“每當我想退縮時，我就會看看手機裡存著的那張照片——那個被DHS特工在街頭無辜槍殺的平民。”
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: