当AI学会了扣动扳机,这个世界准备好了吗?
美伊冲突不断升级，中东地区再次成为全球瞩目的焦点。美国总统特朗普誓言在伊朗问题上将“不惜代价”，不料后院突然起火。
就在美国对伊朗发动袭击的前一天，美国国防部与知名AI初创公司Anthropic的合作正式破裂。随后，特朗普将Anthropic列为“国家安全供应链风险”，全面封杀其在联邦政府及军方的应用。
Anthropic的Claude大模型是此前唯一能在五角大楼机密云环境中运行的AI系统，曾被用于支持美国在委内瑞拉的行动。这次双方撕破脸皮，是因为美国军方提出，涉密环境下，AI模型应当可用于“所有合法用途”，不得受“政策约束”而限制其在军事领域的应用空间。
然而，Anthropic始终坚持两条红线：不得用于“对美国人进行大规模监控”，不得用于“完全自主武器”。
由此，Anthropic成为第一家被列入“国家安全供应链风险”管制的美国公司。美国政府正在向硅谷科技公司释放明确信号，与政府合作只能无条件服从，否则就要面临被行政手段打压的重大风险。
01
特朗普政府对于AI行业的监管要求，正在由此前拜登政府的“安全第一”全面转向“主导地位第一”。
2025年1月23日，特朗普就曾签署《消除美国AI领导力障碍》行政令，核心恰恰在于放松监管，促进AI创新。行政令由美国总统单方面签署，本身不是法律，却也能够通过指导联邦机构产生广泛的实际影响，所有联邦机构都必须审查并废除与此新政策不符的规定。
事实上，在现代战争中，AI技术加持下的杀伤性武器已得到使用。
2月28日，美以袭击伊朗的“史诗怒火行动”中，首次在实战中使用了自杀式无人机LUCAS。这种无人机具备AI自主飞行控制、GPS信号失效时自行导航，以及蜂群协同能力。相比于造价昂贵的战斧导弹，LUCAS单价在1万美元至5.5万美元之间，不到战斧导弹的五十分之一。
现阶段LUCAS在执行目标打击时，会将AI筛选后的高价值目标画面实时传输到后方的控制终端，最终由人类决定是否进行攻击。在AI辅助进行目标识别后，操作员的识别效率得到了极大地提升。
机器永不疲劳，在面对大量数据处理时，决策响应速度远超人类生理极限。仅从执行效率的角度来看，完全由AI操控的无人机无疑是更高效的选择。
只是，现阶段AI技术存在许多明显漏洞，一旦完全由AI自主控制的武器系统出现判断失误，对错误的目标进行打击，后果不堪设想。
Anthropic作为全球头部AI企业，对AI技术的局限性比美国军方应有更深刻的认识。因此，哪怕与五角大楼翻脸，Anthropic也要坚持为AI在军事领域的应用划定红线。
02
Anthropic固然是全球AI行业内的领军人物，可对于美国军方来说也不过是优选项，并非必选项。美国其他AI企业在面对美国军方压力时，立场则显得更为灵活。
五角大楼本次计划分别和Anthropic以及马斯克旗下的xAI展开合作，在前者还在因为AI的适用范围与美国军方争的面红耳赤时，后者已经全盘接受了五角大楼的协议，让Grok按“所有合法用途”进入涉密体系。
xAI旗下的Grok大模型自诞生之初就走上了一条饱受争议的差异化竞争路线，在技术层面致力于精简传统的安全护栏，让模型更加敢于回答用户的敏感话题。各家AI大模型时至今日还都对色情内容严加限制，xAI却早就大胆上线伴侣模式，以虚拟女友的数字人身份与用户畅聊擦边内容。
在第三方机构SaferAI的评级中，xAI在5分制的综合安全评估中仅获得0.8分，安全风险评级被划为“非常弱”等级。
xAI本身的安全限制相对宽松，近期又被整合进SpaceX准备上市。在这个关键节点，选择对五角大楼高度配合完全符合商业逻辑。
在全球AI大模型性能的排行榜上，Grok处于偏后的位置。而常年霸榜的AI领先企业OpenAI，对于如何与美国军方合作，此刻正在百般纠结当中。
五角大楼与Anthropic的谈判破裂后，OpenAI的CEO山姆·奥尔特曼很快在社交媒体上表示，已经与美国国防部达成协议，将替补Anthropic的位置。OpenAI宣称，该协议拥有“迄今任何机密AI部署协议中最严格的护栏，包括优于Anthropic的条款”。
[加西网正招聘多名全职sales 待遇优]
无评论不新闻，发表一下您的意见吧
就在美国对伊朗发动袭击的前一天，美国国防部与知名AI初创公司Anthropic的合作正式破裂。随后，特朗普将Anthropic列为“国家安全供应链风险”，全面封杀其在联邦政府及军方的应用。
Anthropic的Claude大模型是此前唯一能在五角大楼机密云环境中运行的AI系统，曾被用于支持美国在委内瑞拉的行动。这次双方撕破脸皮，是因为美国军方提出，涉密环境下，AI模型应当可用于“所有合法用途”，不得受“政策约束”而限制其在军事领域的应用空间。
然而，Anthropic始终坚持两条红线：不得用于“对美国人进行大规模监控”，不得用于“完全自主武器”。
由此，Anthropic成为第一家被列入“国家安全供应链风险”管制的美国公司。美国政府正在向硅谷科技公司释放明确信号，与政府合作只能无条件服从，否则就要面临被行政手段打压的重大风险。
01
特朗普政府对于AI行业的监管要求，正在由此前拜登政府的“安全第一”全面转向“主导地位第一”。
2025年1月23日，特朗普就曾签署《消除美国AI领导力障碍》行政令，核心恰恰在于放松监管，促进AI创新。行政令由美国总统单方面签署，本身不是法律，却也能够通过指导联邦机构产生广泛的实际影响，所有联邦机构都必须审查并废除与此新政策不符的规定。
事实上，在现代战争中，AI技术加持下的杀伤性武器已得到使用。
2月28日，美以袭击伊朗的“史诗怒火行动”中，首次在实战中使用了自杀式无人机LUCAS。这种无人机具备AI自主飞行控制、GPS信号失效时自行导航，以及蜂群协同能力。相比于造价昂贵的战斧导弹，LUCAS单价在1万美元至5.5万美元之间，不到战斧导弹的五十分之一。
现阶段LUCAS在执行目标打击时，会将AI筛选后的高价值目标画面实时传输到后方的控制终端，最终由人类决定是否进行攻击。在AI辅助进行目标识别后，操作员的识别效率得到了极大地提升。
机器永不疲劳，在面对大量数据处理时，决策响应速度远超人类生理极限。仅从执行效率的角度来看，完全由AI操控的无人机无疑是更高效的选择。
只是，现阶段AI技术存在许多明显漏洞，一旦完全由AI自主控制的武器系统出现判断失误，对错误的目标进行打击，后果不堪设想。
Anthropic作为全球头部AI企业，对AI技术的局限性比美国军方应有更深刻的认识。因此，哪怕与五角大楼翻脸，Anthropic也要坚持为AI在军事领域的应用划定红线。
02
Anthropic固然是全球AI行业内的领军人物，可对于美国军方来说也不过是优选项，并非必选项。美国其他AI企业在面对美国军方压力时，立场则显得更为灵活。
五角大楼本次计划分别和Anthropic以及马斯克旗下的xAI展开合作，在前者还在因为AI的适用范围与美国军方争的面红耳赤时，后者已经全盘接受了五角大楼的协议，让Grok按“所有合法用途”进入涉密体系。
xAI旗下的Grok大模型自诞生之初就走上了一条饱受争议的差异化竞争路线，在技术层面致力于精简传统的安全护栏，让模型更加敢于回答用户的敏感话题。各家AI大模型时至今日还都对色情内容严加限制，xAI却早就大胆上线伴侣模式，以虚拟女友的数字人身份与用户畅聊擦边内容。
在第三方机构SaferAI的评级中，xAI在5分制的综合安全评估中仅获得0.8分，安全风险评级被划为“非常弱”等级。
xAI本身的安全限制相对宽松，近期又被整合进SpaceX准备上市。在这个关键节点，选择对五角大楼高度配合完全符合商业逻辑。
在全球AI大模型性能的排行榜上，Grok处于偏后的位置。而常年霸榜的AI领先企业OpenAI，对于如何与美国军方合作，此刻正在百般纠结当中。
五角大楼与Anthropic的谈判破裂后，OpenAI的CEO山姆·奥尔特曼很快在社交媒体上表示，已经与美国国防部达成协议，将替补Anthropic的位置。OpenAI宣称，该协议拥有“迄今任何机密AI部署协议中最严格的护栏，包括优于Anthropic的条款”。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
推荐: