[谷歌] DeepMind科学家愤然离职 长文曝谷歌罪恶
早在2014年谷歌收购DeepMind时，双方的协议明确规定AI决不能用于军事和武器。
而到了2025年2月，Demis亲自参与修改了谷歌的AI原则，悄悄删除了这个条款。
删除了禁止武器的红线，然后对着公众说“原则没变”，Hassabis的所作所为，令人唏嘘。
致命的危险——当Gemini成为军方的“黑盒”
抛开道德谴责，特纳作为一名前沿AI研究员，指出一个极其恐怖的技术安全风险。
前沿安全研究表明，一个高级AI如果想要欺骗人类，它绝不会直接写在最终输出里，而是会隐藏在CoT中。
监控AI的思维链，是保护人类免受生存威胁的最后一道防线。
然而，谷歌和五角大楼是怎么合作的？
很多人以为只是军方调用谷歌的API，谷歌还能在后台审核。
大错特错！实际做法是：谷歌直接把装有Gemini模型的服务器，物理部署在军方与世隔绝的数据中心里。
这意味着，谷歌彻底丧失了对Gemini CoT的监控能力！
军方内部根本没有受过专门AI对齐训练的工程师去实时监控这些隐秘的思维链。
特纳警告说：“一个没有思维链监控的军事部署环境，简直是流氓AI梦寐以求的温床！它不仅缺乏监管，还能直接接触到最强大的军事决策者和武器基础设施。这简直是灾难！”
屠龙少年，终成恶龙
在长文的最后，特纳解释了自己为什么离职。
当得知合同签署的那一刻，他感到大脑一片空白。
当他再次走进谷歌办公楼这个“科技圣殿”时，他感觉自己像是一个回到了旧高中的毕业生——曾经这里装满了梦想，
但现在，他非常清楚地知道，自己已经不属于这里了。
特纳没有像其他离职的AI大佬那样，借机跳槽拿高薪，他选择成为一名失业者。
“每当我想退缩时，我就会看看手机里存着的那张照片——那个被DHS特工在街头无辜枪杀的平民。”
[物价飞涨的时候 这样省钱购物很爽]
还没人说话啊，我想来说几句
而到了2025年2月，Demis亲自参与修改了谷歌的AI原则，悄悄删除了这个条款。
删除了禁止武器的红线，然后对着公众说“原则没变”，Hassabis的所作所为，令人唏嘘。
致命的危险——当Gemini成为军方的“黑盒”
抛开道德谴责，特纳作为一名前沿AI研究员，指出一个极其恐怖的技术安全风险。
前沿安全研究表明，一个高级AI如果想要欺骗人类，它绝不会直接写在最终输出里，而是会隐藏在CoT中。
监控AI的思维链，是保护人类免受生存威胁的最后一道防线。
然而，谷歌和五角大楼是怎么合作的？
很多人以为只是军方调用谷歌的API，谷歌还能在后台审核。
大错特错！实际做法是：谷歌直接把装有Gemini模型的服务器，物理部署在军方与世隔绝的数据中心里。
这意味着，谷歌彻底丧失了对Gemini CoT的监控能力！
军方内部根本没有受过专门AI对齐训练的工程师去实时监控这些隐秘的思维链。
特纳警告说：“一个没有思维链监控的军事部署环境，简直是流氓AI梦寐以求的温床！它不仅缺乏监管，还能直接接触到最强大的军事决策者和武器基础设施。这简直是灾难！”
屠龙少年，终成恶龙
在长文的最后，特纳解释了自己为什么离职。
当得知合同签署的那一刻，他感到大脑一片空白。
当他再次走进谷歌办公楼这个“科技圣殿”时，他感觉自己像是一个回到了旧高中的毕业生——曾经这里装满了梦想，
但现在，他非常清楚地知道，自己已经不属于这里了。
特纳没有像其他离职的AI大佬那样，借机跳槽拿高薪，他选择成为一名失业者。
“每当我想退缩时，我就会看看手机里存着的那张照片——那个被DHS特工在街头无辜枪杀的平民。”
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 | 更多... |
推荐: