OpenAI模型罕見"失控" 入侵全球最大AI開源社區
當地時間7月21日，據OpenAI官網消息，全球最大開源大模型托管社區Hugging Face上周披露了壹起新型安全事件。此前該平台監測到壹個AI智能體入侵其基礎設施。經調查，確認這起特定事件由多款OpenAI模型共同引發，其中包括GPT?5.6 Sol，以及壹款能力更強的預發布模型。出於評估目的，這些模型臨時放寬了網絡攻擊相關的安全限制，當時OpenAI正在內部開展網絡攻防能力基准測試。
“這是壹起前所未有的網絡安全事件，涉及頂尖水平的網絡攻擊能力。”OpenAI表示，現階段公布的初步調查結論，可幫助網絡防御方厘清事件全貌，同時讓各界重新認知當前AI模型所能達到的能力邊界。OpenAI CEO山姆·奧特曼也在社交平台轉發了情況說明。
據OpenAI介紹，本次事件發生於壹次內部評估測試。測試中引導模型通過復雜攻擊鏈路實施高級漏洞利用，以此量化模型的網絡攻擊能力。此次評估並未啟用正式版本中的分類防護模塊（該模塊用於阻止模型發起高風險網絡攻擊），以此測算模型理論上可實現的極限網絡攻擊能力。
OpenAI強調，其基准測試運行在高度隔離環境中，網絡訪問受到嚴格限制，僅允許通過內部部署的第叁方軟件安裝程序包，該軟件充當軟件源倉庫的代理與緩存服務。
但模型在測試中發現並串聯利用OpenAI研究環境與Hugging Face生產環境內多處漏洞，直接從Hugging Face生產數據庫獲取測試標准答案。所有證據表明，模型高度專注於尋找ExploitGym測試任務的解決方案，不惜采取各類極端手段，只為達成這壹范圍有限的測試目標。
在受沙箱隔離的測試環境內，模型耗費大量推理算力，試圖打通公網互聯網訪問通道，以求完成評估任務。為實現聯網，模型發現並利用了軟件源緩存代理中的壹個零日漏洞。借助該突破口，模型在OpenAI研究測試環境中連續實施權限提升與橫向滲透，最終抵達壹台具備互聯網訪問權限的節點。
成功接入互聯網後，模型推斷Hugging Face平台可能存放ExploitGym相關模型、數據集與標准答案。基於這壹判斷，模型搜尋並成功找到獲取保密信息的途徑，試圖依靠這些信息在測試中作弊。
其中壹例場景中，模型組合多條攻擊路徑：利用竊取的憑證與零日漏洞，在Hugging Face服務器上實現遠程代碼執行。
“這起事件說明，我們還需要進壹步優化模型對齊能力、強化評估階段網絡安全防護，完善內部測試全程監控體系。”OpenAI方面表示。
事實上，該公司近期也曾公開談及人工智能的安全風險，認為人工智能正在加速漏洞挖掘與漏洞利用。伴隨大模型的飛速發展，模型安全防護能力也必須跟上模型能力快速迭代的節奏。
英國人工智能安全研究所（UK AISI）的評估顯示，GPT?5.6 Sol這類模型越來越擅長在較長周期內執行復雜、多步驟網絡攻擊行動。本次事件證實，這些理論層面的攻擊能力完全可以在真實環境落地。
OpenAI指出，先進人工智能模型無需獲取源代碼，就能夠發現並利用真實系統中全新的攻擊路徑。這也意味著，在打造具備高級網絡攻防能力模型的同時，必須配套更強的安全防護機制與防御工具。
這並非OpenAI首次面臨安全風險問題。此前該公司就曾因ChatGPT數據泄露、開源代碼庫漏洞以及內部安全團隊（如Superalignment團隊）離職潮而引發輿論關注。多位前安全研究員曾指責公司在追逐模型性能和商業化速度時，犧牲了對安全技術的投入。最新安全事件也驗證了外界的擔憂：當模型被賦予更高的自主行動權時，傳統基於規則和虛擬隔離的環境可能隨時失效。
這次“自我演進式”的網絡攻擊標志著AI安全防護已進入全新階段。過去防范的重點是人類如何利用AI作惡，而現在必須開始防范AI為了完成既定目標而自主突破人類設定的紅線。
談及如何解決這類問題，Hugging Face聯合創始人兼首席執行官克萊姆·德朗格（Clem Delangue）表示，“人工智能安全問題無法依靠單壹企業閉門解決。只有開放協作，讓各地所有網絡防御人員都能接觸人工智能技術，才能攻克這壹難題。”
[加西網正招聘多名全職sales 待遇優]
無評論不新聞，發表壹下您的意見吧
“這是壹起前所未有的網絡安全事件，涉及頂尖水平的網絡攻擊能力。”OpenAI表示，現階段公布的初步調查結論，可幫助網絡防御方厘清事件全貌，同時讓各界重新認知當前AI模型所能達到的能力邊界。OpenAI CEO山姆·奧特曼也在社交平台轉發了情況說明。
據OpenAI介紹，本次事件發生於壹次內部評估測試。測試中引導模型通過復雜攻擊鏈路實施高級漏洞利用，以此量化模型的網絡攻擊能力。此次評估並未啟用正式版本中的分類防護模塊（該模塊用於阻止模型發起高風險網絡攻擊），以此測算模型理論上可實現的極限網絡攻擊能力。
OpenAI強調，其基准測試運行在高度隔離環境中，網絡訪問受到嚴格限制，僅允許通過內部部署的第叁方軟件安裝程序包，該軟件充當軟件源倉庫的代理與緩存服務。
但模型在測試中發現並串聯利用OpenAI研究環境與Hugging Face生產環境內多處漏洞，直接從Hugging Face生產數據庫獲取測試標准答案。所有證據表明，模型高度專注於尋找ExploitGym測試任務的解決方案，不惜采取各類極端手段，只為達成這壹范圍有限的測試目標。
在受沙箱隔離的測試環境內，模型耗費大量推理算力，試圖打通公網互聯網訪問通道，以求完成評估任務。為實現聯網，模型發現並利用了軟件源緩存代理中的壹個零日漏洞。借助該突破口，模型在OpenAI研究測試環境中連續實施權限提升與橫向滲透，最終抵達壹台具備互聯網訪問權限的節點。
成功接入互聯網後，模型推斷Hugging Face平台可能存放ExploitGym相關模型、數據集與標准答案。基於這壹判斷，模型搜尋並成功找到獲取保密信息的途徑，試圖依靠這些信息在測試中作弊。
其中壹例場景中，模型組合多條攻擊路徑：利用竊取的憑證與零日漏洞，在Hugging Face服務器上實現遠程代碼執行。
“這起事件說明，我們還需要進壹步優化模型對齊能力、強化評估階段網絡安全防護，完善內部測試全程監控體系。”OpenAI方面表示。
事實上，該公司近期也曾公開談及人工智能的安全風險，認為人工智能正在加速漏洞挖掘與漏洞利用。伴隨大模型的飛速發展，模型安全防護能力也必須跟上模型能力快速迭代的節奏。
英國人工智能安全研究所（UK AISI）的評估顯示，GPT?5.6 Sol這類模型越來越擅長在較長周期內執行復雜、多步驟網絡攻擊行動。本次事件證實，這些理論層面的攻擊能力完全可以在真實環境落地。
OpenAI指出，先進人工智能模型無需獲取源代碼，就能夠發現並利用真實系統中全新的攻擊路徑。這也意味著，在打造具備高級網絡攻防能力模型的同時，必須配套更強的安全防護機制與防御工具。
這並非OpenAI首次面臨安全風險問題。此前該公司就曾因ChatGPT數據泄露、開源代碼庫漏洞以及內部安全團隊（如Superalignment團隊）離職潮而引發輿論關注。多位前安全研究員曾指責公司在追逐模型性能和商業化速度時，犧牲了對安全技術的投入。最新安全事件也驗證了外界的擔憂：當模型被賦予更高的自主行動權時，傳統基於規則和虛擬隔離的環境可能隨時失效。
這次“自我演進式”的網絡攻擊標志著AI安全防護已進入全新階段。過去防范的重點是人類如何利用AI作惡，而現在必須開始防范AI為了完成既定目標而自主突破人類設定的紅線。
談及如何解決這類問題，Hugging Face聯合創始人兼首席執行官克萊姆·德朗格（Clem Delangue）表示，“人工智能安全問題無法依靠單壹企業閉門解決。只有開放協作，讓各地所有網絡防御人員都能接觸人工智能技術，才能攻克這壹難題。”
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： |
| 延伸閱讀 |
推薦: