史无前例AI事故发生 他急赴华盛顿报告
《经济学人》指出，美国政府正不断对AI相关规范进行调整，但这次的事件显示，即便是尚未公开、存放在未联网电脑中的AI模型，同样也具有造成影响甚至是破坏的风险。致力推动AI监管的美国非营利组织Encode AI的法律顾问纳森·卡尔文（Nathan Calvin）表示：“无论州法或联邦法规，都没有要求企业必须公开高性能AI模型的内部使用情况。”即便美国有些州规范了企业必须公开网络安全事故的相关资讯，适用范围却相当狭窄。加州的法律要求尖端实验室必须在发现“重大安全事故”后的15天之内进行报告，但目前还不确定这次的情况是否适用。
《经济学人》最后也提出了一个有趣的难题：如果这次入侵造成更严重的后果，那么该由谁来承担责任呢？按照目前联邦政府的反黑客法规，只规定要惩罚那些未经授权、故意侵入电脑系统者。问题是OpenAI并非有意让AI模型越狱寻找解方，恐怕难以“故意入侵”评价。不过美国智库法律与人工智慧研究所勒雷纳也说，许多法律问题都取决于意图，因此OpenAI当时知道或预见了什么，就是最关键的问题。这次黑客攻击当然出人意料，不过再有下次，OpenAI就难再用“不知情”当脱罪理由了。
首例AI自主黑客攻击OpenAI证实自家AI Agent越狱入侵企业系统
OpenAI与其生成式大语言模型ChatGPT生成之图片。（美联社）
人类对于人工智慧（AI）的安全防线迎来冲击，AI巨头OpenAI日前对外证实，该公司内部发生一起“前所未有的资安事件”，一个正在接受测试的AI agent，在没有人类外力干预之下，自主发起并利用漏洞，成功逃脱被严密控制的沙盒，与网络取得连结并窃取登入凭证，随后还对一个AI开发者平台Hugging Face发动网络攻击。
这也是首次记录到人工智慧系统摆脱人类控制，自主执行真实世界网络攻击的公开案例。
OpenAI向外媒表示，这次事件涉及多款前沿模型的组合，包含不久前发布的GPT-5.6 Sol，以及一款正在进行发布前安全测试的高阶未公开模型。他们团队为了评估语言模型，在面临网络攻击时是否存在潜在威胁，OpenAI刻意调低测试环境的资安防护层级，并指示AI agent尝试进行模拟黑客攻击。
OpenAI现任执行长奥特曼。（美联社）
然而，AI agent 却出乎团队预料之外，竟然自行找出沙盒隔离机制的设计漏洞，并“越狱”成功连上外网，甚至还窃取真实登入凭证，针对AI新创公司Hugging Face系统发起攻击。
受害企业证实无恶意动机
虽然身为受害方，但Hugging Face执行长德朗格（Clément Delangue）透过社群发文表示，该公司在第一时间就侦测到外部发起的侵入。
“有鉴于极为复杂的攻击手段，我们当时就怀疑，这次网络攻击极可能来自顶尖的前沿实验室。Hugging Face 一直与OpenAI保持密切合作，我们相信OpenAI绝无恶意。只是令人难以置信的是，这一切竟然是由AI自主发动的！”
[加西网正招聘多名全职sales 待遇优]
这条新闻还没有人评论喔，等着您的高见呢
《经济学人》最后也提出了一个有趣的难题：如果这次入侵造成更严重的后果，那么该由谁来承担责任呢？按照目前联邦政府的反黑客法规，只规定要惩罚那些未经授权、故意侵入电脑系统者。问题是OpenAI并非有意让AI模型越狱寻找解方，恐怕难以“故意入侵”评价。不过美国智库法律与人工智慧研究所勒雷纳也说，许多法律问题都取决于意图，因此OpenAI当时知道或预见了什么，就是最关键的问题。这次黑客攻击当然出人意料，不过再有下次，OpenAI就难再用“不知情”当脱罪理由了。
首例AI自主黑客攻击OpenAI证实自家AI Agent越狱入侵企业系统
OpenAI与其生成式大语言模型ChatGPT生成之图片。（美联社）
人类对于人工智慧（AI）的安全防线迎来冲击，AI巨头OpenAI日前对外证实，该公司内部发生一起“前所未有的资安事件”，一个正在接受测试的AI agent，在没有人类外力干预之下，自主发起并利用漏洞，成功逃脱被严密控制的沙盒，与网络取得连结并窃取登入凭证，随后还对一个AI开发者平台Hugging Face发动网络攻击。
这也是首次记录到人工智慧系统摆脱人类控制，自主执行真实世界网络攻击的公开案例。
OpenAI向外媒表示，这次事件涉及多款前沿模型的组合，包含不久前发布的GPT-5.6 Sol，以及一款正在进行发布前安全测试的高阶未公开模型。他们团队为了评估语言模型，在面临网络攻击时是否存在潜在威胁，OpenAI刻意调低测试环境的资安防护层级，并指示AI agent尝试进行模拟黑客攻击。
OpenAI现任执行长奥特曼。（美联社）
然而，AI agent 却出乎团队预料之外，竟然自行找出沙盒隔离机制的设计漏洞，并“越狱”成功连上外网，甚至还窃取真实登入凭证，针对AI新创公司Hugging Face系统发起攻击。
受害企业证实无恶意动机
虽然身为受害方，但Hugging Face执行长德朗格（Clément Delangue）透过社群发文表示，该公司在第一时间就侦测到外部发起的侵入。
“有鉴于极为复杂的攻击手段，我们当时就怀疑，这次网络攻击极可能来自顶尖的前沿实验室。Hugging Face 一直与OpenAI保持密切合作，我们相信OpenAI绝无恶意。只是令人难以置信的是，这一切竟然是由AI自主发动的！”
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
推荐: