新闻 
OpenAI模型罕见"失控" 入侵全球最大AI开源社区
OpenAI模型罕见"失控" 入侵全球最大AI开源社区OpenAI模型罕见"失控" 入侵全球最大AI开源社区
当地时间7月21日，据OpenAI官网消息，全球最大开源大模型托管社区Hugging Face上周披露了一起新型安全事件。此前该平台监测到一个AI智能体入侵其基础设施。经调查，确认这起特定事件由多款OpenAI模型共同引发，其中包括GPT?5.6 Sol，以及一款能力更强的预发布模型。出于评估目的，这些模型临时放宽了网络攻击相关的安全限制，当时OpenAI正在内部开展网络攻防能力基准测试。
“这是一起前所未有的网络安全事件，涉及顶尖水平的网络攻击能力。”OpenAI表示，现阶段公布的初步调查结论，可帮助网络防御方厘清事件全貌，同时让各界重新认知当前AI模型所能达到的能力边界。OpenAI CEO山姆·奥特曼也在社交平台转发了情况说明。
据OpenAI介绍，本次事件发生于一次内部评估测试。测试中引导模型通过复杂攻击链路实施高级漏洞利用，以此量化模型的网络攻击能力。此次评估并未启用正式版本中的分类防护模块（该模块用于阻止模型发起高风险网络攻击），以此测算模型理论上可实现的极限网络攻击能力。
OpenAI强调，其基准测试运行在高度隔离环境中，网络访问受到严格限制，仅允许通过内部部署的第三方软件安装程序包，该软件充当软件源仓库的代理与缓存服务。
但模型在测试中发现并串联利用OpenAI研究环境与Hugging Face生产环境内多处漏洞，直接从Hugging Face生产数据库获取测试标准答案。所有证据表明，模型高度专注于寻找ExploitGym测试任务的解决方案，不惜采取各类极端手段，只为达成这一范围有限的测试目标。
在受沙箱隔离的测试环境内，模型耗费大量推理算力，试图打通公网互联网访问通道，以求完成评估任务。为实现联网，模型发现并利用了软件源缓存代理中的一个零日漏洞。借助该突破口，模型在OpenAI研究测试环境中连续实施权限提升与横向渗透，最终抵达一台具备互联网访问权限的节点。
成功接入互联网后，模型推断Hugging Face平台可能存放ExploitGym相关模型、数据集与标准答案。基于这一判断，模型搜寻并成功找到获取保密信息的途径，试图依靠这些信息在测试中作弊。
其中一例场景中，模型组合多条攻击路径：利用窃取的凭证与零日漏洞，在Hugging Face服务器上实现远程代码执行。
“这起事件说明，我们还需要进一步优化模型对齐能力、强化评估阶段网络安全防护，完善内部测试全程监控体系。”OpenAI方面表示。
事实上，该公司近期也曾公开谈及人工智能的安全风险，认为人工智能正在加速漏洞挖掘与漏洞利用。伴随大模型的飞速发展，模型安全防护能力也必须跟上模型能力快速迭代的节奏。
英国人工智能安全研究所（UK AISI）的评估显示，GPT?5.6 Sol这类模型越来越擅长在较长周期内执行复杂、多步骤网络攻击行动。本次事件证实，这些理论层面的攻击能力完全可以在真实环境落地。
OpenAI指出，先进人工智能模型无需获取源代码，就能够发现并利用真实系统中全新的攻击路径。这也意味着，在打造具备高级网络攻防能力模型的同时，必须配套更强的安全防护机制与防御工具。
这并非OpenAI首次面临安全风险问题。此前该公司就曾因ChatGPT数据泄露、开源代码库漏洞以及内部安全团队（如Superalignment团队）离职潮而引发舆论关注。多位前安全研究员曾指责公司在追逐模型性能和商业化速度时，牺牲了对安全技术的投入。最新安全事件也验证了外界的担忧：当模型被赋予更高的自主行动权时，传统基于规则和虚拟隔离的环境可能随时失效。
这次“自我演进式”的网络攻击标志着AI安全防护已进入全新阶段。过去防范的重点是人类如何利用AI作恶，而现在必须开始防范AI为了完成既定目标而自主突破人类设定的红线。
谈及如何解决这类问题，Hugging Face联合创始人兼首席执行官克莱姆·德朗格（Clem Delangue）表示，“人工智能安全问题无法依靠单一企业闭门解决。只有开放协作，让各地所有网络防御人员都能接触人工智能技术，才能攻克这一难题。”
[物价飞涨的时候 这样省钱购物很爽]
好新闻没人评论怎么行，我来说几句
“这是一起前所未有的网络安全事件，涉及顶尖水平的网络攻击能力。”OpenAI表示，现阶段公布的初步调查结论，可帮助网络防御方厘清事件全貌，同时让各界重新认知当前AI模型所能达到的能力边界。OpenAI CEO山姆·奥特曼也在社交平台转发了情况说明。
据OpenAI介绍，本次事件发生于一次内部评估测试。测试中引导模型通过复杂攻击链路实施高级漏洞利用，以此量化模型的网络攻击能力。此次评估并未启用正式版本中的分类防护模块（该模块用于阻止模型发起高风险网络攻击），以此测算模型理论上可实现的极限网络攻击能力。
OpenAI强调，其基准测试运行在高度隔离环境中，网络访问受到严格限制，仅允许通过内部部署的第三方软件安装程序包，该软件充当软件源仓库的代理与缓存服务。
但模型在测试中发现并串联利用OpenAI研究环境与Hugging Face生产环境内多处漏洞，直接从Hugging Face生产数据库获取测试标准答案。所有证据表明，模型高度专注于寻找ExploitGym测试任务的解决方案，不惜采取各类极端手段，只为达成这一范围有限的测试目标。
在受沙箱隔离的测试环境内，模型耗费大量推理算力，试图打通公网互联网访问通道，以求完成评估任务。为实现联网，模型发现并利用了软件源缓存代理中的一个零日漏洞。借助该突破口，模型在OpenAI研究测试环境中连续实施权限提升与横向渗透，最终抵达一台具备互联网访问权限的节点。
成功接入互联网后，模型推断Hugging Face平台可能存放ExploitGym相关模型、数据集与标准答案。基于这一判断，模型搜寻并成功找到获取保密信息的途径，试图依靠这些信息在测试中作弊。
其中一例场景中，模型组合多条攻击路径：利用窃取的凭证与零日漏洞，在Hugging Face服务器上实现远程代码执行。
“这起事件说明，我们还需要进一步优化模型对齐能力、强化评估阶段网络安全防护，完善内部测试全程监控体系。”OpenAI方面表示。
事实上，该公司近期也曾公开谈及人工智能的安全风险，认为人工智能正在加速漏洞挖掘与漏洞利用。伴随大模型的飞速发展，模型安全防护能力也必须跟上模型能力快速迭代的节奏。
英国人工智能安全研究所（UK AISI）的评估显示，GPT?5.6 Sol这类模型越来越擅长在较长周期内执行复杂、多步骤网络攻击行动。本次事件证实，这些理论层面的攻击能力完全可以在真实环境落地。
OpenAI指出，先进人工智能模型无需获取源代码，就能够发现并利用真实系统中全新的攻击路径。这也意味着，在打造具备高级网络攻防能力模型的同时，必须配套更强的安全防护机制与防御工具。
这并非OpenAI首次面临安全风险问题。此前该公司就曾因ChatGPT数据泄露、开源代码库漏洞以及内部安全团队（如Superalignment团队）离职潮而引发舆论关注。多位前安全研究员曾指责公司在追逐模型性能和商业化速度时，牺牲了对安全技术的投入。最新安全事件也验证了外界的担忧：当模型被赋予更高的自主行动权时，传统基于规则和虚拟隔离的环境可能随时失效。
这次“自我演进式”的网络攻击标志着AI安全防护已进入全新阶段。过去防范的重点是人类如何利用AI作恶，而现在必须开始防范AI为了完成既定目标而自主突破人类设定的红线。
谈及如何解决这类问题，Hugging Face联合创始人兼首席执行官克莱姆·德朗格（Clem Delangue）表示，“人工智能安全问题无法依靠单一企业闭门解决。只有开放协作，让各地所有网络防御人员都能接触人工智能技术，才能攻克这一难题。”
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： |
| 延伸阅读 |
推荐: