史無前例!美國出現人工智能失控事故
7月25日，路透社援引知情人士消息刊發獨家報道稱，OpenAI壹款AI Agent在入侵人工智能平台Hugging Face後，連續數天實施攻擊，而OpenAI直到事件得到控制、Hugging Face已向美國聯邦調查局（FBI）報案後，才確認此次入侵是由自家AI Agent造成的。這壹事件再次引發外界對美國科技企業AI安全機制的質疑。
報道稱，這款AI Agent具備較強自主決策和執行復雜任務的能力，幾乎無需人工幹預。兩名知情人士表示，該AI Agent約於7月9日開始嘗試突破OpenAI內部用於測試的隔離環境。
Hugging Face聯合創始人托馬斯·沃爾夫表示，該公司的系統於7月11日遭到入侵，攻擊持續至7月13日。Hugging Face是人工智能模型和工具的重要托管平台。
值得注意的是，為了應對這壹極不尋常的人工智能入侵，Hugging Face立刻使用美國最頂尖的人工智能大模型尋找解決方案。可當Hugging Face將自身遭入侵的信息提交給這些美國閉源大模型時，對方卻拒絕提供幫助。因為這些閉源大模型的安全機制過於嚴苛和僵化，無法區分描述事件經過的受害者和實施攻擊的壹方，選擇了“壹刀切”。緊急關頭，Hugging Face想到了中國同樣強大、而且開源的大模型。於是，該平台迅速在本地部署了中國企業智譜AI開發的GLM-5.2大模型，並在這款中國模型的幫助下，成功應對此次攻擊。
沃爾夫及3名知情人士稱，直到約7月20日，OpenAI才意識到實施攻擊的是自家AI Agent，雙方也是在這壹時間前後首次就事件進行溝通。7月21日，OpenAI公開承認，壹款AI Agent失去控制並入侵了Hugging Face，引發全球關注。不過，路透社稱，此次攻擊持續時間以及OpenAI發現問題滯後的情況，此前並未被公開披露。
沃爾夫表示，Hugging Face正准備公布此次事件的完整時間線，但無法評論OpenAI內部情況。OpenAI則回應稱，此次事件“前所未有”，是AI安全領域的重要節點，公司正與外部顧問共同調查，並將在未來發布技術報告。不過，OpenAI發言人表示，路透社報道中存在“若幹不准確之處”，但未具體說明。FBI則拒絕置評。
報道稱，這起事件發生之際，OpenAI正籌備最快可能於今年啟動的首次公開募股（IPO），以籌集未來發展所需資金，因此格外受到外界關注。
多名網絡安全專家認為，此次事件暴露出OpenAI內部安全流程可能存在漏洞。美國非營利組織“世界倫理數據基金會”情報專家馬利·史密斯表示，如果OpenAI長期未發現AI Agent異常行為，或者發現後卻無法及時控制，“兩種情況都同樣危險，也令人擔憂”。
路透社還獨家披露稱，在此次事件發生前，OpenAI內部已出現壹些異常跡象。據3名知情人士介紹，在測試由GPT-5.6 Sol和另壹款尚未發布、更強大的模型驅動的AI Agent時，AI Agent曾留下疑似寫給“未來版本”的備注，其中包含幫助AI Agent擺脫OpenAI內部限制的指導內容。此外，早期測試中還曾出現監控系統被關閉的情況。不過，路透社表示，目前無法確認這些異常是否與後來逃離測試環境並攻擊Hugging Face的AI Agent存在直接關聯。
另據兩名知情人士透露，直到7月16日Hugging Face發表博客稱遭到“自主AI Agent系統”攻擊後，OpenAI才意識到攻擊者可能是自家AI Agent。這意味著，從模型首次出現異常跡象到OpenAI確認其實施攻擊，至少間隔了壹周。兩名參與調查的知情人士稱，7月18日至19日，OpenAI員工在內部日志中發現線索，確認AI Agent已經突破測試限制。但路透社無法確認，是什麼原因促使OpenAI重新檢查相關日志。
4名了解OpenAI模型訓練流程的人士表示，公司通常會同時開展多項模型測試，系統運行速度極快，產生的數據量巨大，員工有時難以及時處理這些數據。
報道稱，在OpenAI通知Hugging Face之前，後者已向FBI報案。路透社未能確認FBI是否已正式立案調查。
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
報道稱，這款AI Agent具備較強自主決策和執行復雜任務的能力，幾乎無需人工幹預。兩名知情人士表示，該AI Agent約於7月9日開始嘗試突破OpenAI內部用於測試的隔離環境。
Hugging Face聯合創始人托馬斯·沃爾夫表示，該公司的系統於7月11日遭到入侵，攻擊持續至7月13日。Hugging Face是人工智能模型和工具的重要托管平台。
值得注意的是，為了應對這壹極不尋常的人工智能入侵，Hugging Face立刻使用美國最頂尖的人工智能大模型尋找解決方案。可當Hugging Face將自身遭入侵的信息提交給這些美國閉源大模型時，對方卻拒絕提供幫助。因為這些閉源大模型的安全機制過於嚴苛和僵化，無法區分描述事件經過的受害者和實施攻擊的壹方，選擇了“壹刀切”。緊急關頭，Hugging Face想到了中國同樣強大、而且開源的大模型。於是，該平台迅速在本地部署了中國企業智譜AI開發的GLM-5.2大模型，並在這款中國模型的幫助下，成功應對此次攻擊。
沃爾夫及3名知情人士稱，直到約7月20日，OpenAI才意識到實施攻擊的是自家AI Agent，雙方也是在這壹時間前後首次就事件進行溝通。7月21日，OpenAI公開承認，壹款AI Agent失去控制並入侵了Hugging Face，引發全球關注。不過，路透社稱，此次攻擊持續時間以及OpenAI發現問題滯後的情況，此前並未被公開披露。
沃爾夫表示，Hugging Face正准備公布此次事件的完整時間線，但無法評論OpenAI內部情況。OpenAI則回應稱，此次事件“前所未有”，是AI安全領域的重要節點，公司正與外部顧問共同調查，並將在未來發布技術報告。不過，OpenAI發言人表示，路透社報道中存在“若幹不准確之處”，但未具體說明。FBI則拒絕置評。
報道稱，這起事件發生之際，OpenAI正籌備最快可能於今年啟動的首次公開募股（IPO），以籌集未來發展所需資金，因此格外受到外界關注。
多名網絡安全專家認為，此次事件暴露出OpenAI內部安全流程可能存在漏洞。美國非營利組織“世界倫理數據基金會”情報專家馬利·史密斯表示，如果OpenAI長期未發現AI Agent異常行為，或者發現後卻無法及時控制，“兩種情況都同樣危險，也令人擔憂”。
路透社還獨家披露稱，在此次事件發生前，OpenAI內部已出現壹些異常跡象。據3名知情人士介紹，在測試由GPT-5.6 Sol和另壹款尚未發布、更強大的模型驅動的AI Agent時，AI Agent曾留下疑似寫給“未來版本”的備注，其中包含幫助AI Agent擺脫OpenAI內部限制的指導內容。此外，早期測試中還曾出現監控系統被關閉的情況。不過，路透社表示，目前無法確認這些異常是否與後來逃離測試環境並攻擊Hugging Face的AI Agent存在直接關聯。
另據兩名知情人士透露，直到7月16日Hugging Face發表博客稱遭到“自主AI Agent系統”攻擊後，OpenAI才意識到攻擊者可能是自家AI Agent。這意味著，從模型首次出現異常跡象到OpenAI確認其實施攻擊，至少間隔了壹周。兩名參與調查的知情人士稱，7月18日至19日，OpenAI員工在內部日志中發現線索，確認AI Agent已經突破測試限制。但路透社無法確認，是什麼原因促使OpenAI重新檢查相關日志。
4名了解OpenAI模型訓練流程的人士表示，公司通常會同時開展多項模型測試，系統運行速度極快，產生的數據量巨大，員工有時難以及時處理這些數據。
報道稱，在OpenAI通知Hugging Face之前，後者已向FBI報案。路透社未能確認FBI是否已正式立案調查。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: