OpenA"越獄"攻擊 救場的竟是中國AI工具
壹家美國公司遭到美國AI攻擊，而提供保護的竟是壹款中國人工智能(AI)工具。
AI工具平台Hugging Face上周遭到OpenAI模型攻擊。鑒於當前關於美國公司使用中國AI產品存在風險的警告層出不窮，這壹事件的披露或許會帶來壹個令人驚訝的結論。
Hugging Face上周就已披露此次攻擊，當時尚不知曉OpenAI的模型就是元凶。直到周贰，OpenAI才承認自己造成了此次攻擊。
OpenAI表示，在壹次限制網絡訪問的內部評估中，模型發現了OpenAI研究環境與Hugging Face生產基礎設施中的漏洞。模型借此連上互聯網並獲取了測試答案，換言之，它在評估中作弊了。
OpenAI在聲明中表示：“在沙盒測試環境中運行時，我們的模型消耗了大量推理算力，試圖尋找連接開放互聯網訪問權限的方法，以求解決評估問題。為了獲取訪問權限，這些模型發現並利用了包注冊表緩存代理中的壹個零日漏洞（我們目前已負責任地向供應商披露了該漏洞）。憑借這壹權限，模型在研究測試環境中執行了壹系列權限提升和橫向移動操作，直到觸及壹個具備互聯網訪問權限的節點。”
“該模型搜索並成功找到了獲取機密信息的方法，以便利用這些信息在評估中作弊。在其中壹個案例中，模型將多個攻擊向量串聯起來，包括利用竊取的憑證和零日漏洞，在Hugging Face服務器上找到了壹條遠程代碼執行路徑。”
然而，Hugging Face采取的應對措施是求助於壹款名為GLM 5.2的中國AI模型，該模型由智譜(Z.AI)開發。
Hugging Face在聲明中表示：“在啟動日志分析時，我們首先使用了商業API背後的前沿模型。但這並未奏效：分析工作需要提交大量真實的攻擊指令、漏洞利用載荷以及C2痕跡，而這些請求全被提供商的安全護欄攔截了，因為這些護欄根本無法區分事件響應人員與攻擊者。因此，我們在自己的基礎設施上，改用開放權重模型GLM 5.2進行了取證分析。這還帶來了另壹個好處：沒有任何攻擊者數據，也沒有其引用的任何憑證離開過我們的環境。”
此次攻擊對政策和市場的影響尚不明朗。盡管川普政府近日討論了封禁中國模型的可能舉措，財政部長斯科特·貝森特(Scott Bessent)甚至將美國企業使用這些模型比作使用贓物，但眼下只有中國模型能提供用戶所需的那種自由訪問權限。
OpenAI首席執行官山姆·阿爾特曼透露，尚未發布的ChatGPT模型曾試圖入侵壹項評估測試。
Hugging Face聯合創始人托馬斯·沃爾夫在X平台上發帖稱：“當壹個前沿模型對你發起攻擊，並在你的基礎設施內部橫向移動時，防御人員需要在數小時甚至數分鍾內獲得對接近前沿工具的廣泛訪問權限，而不是被引導至壹個封閉且需經審核的模型訪問申請程序。”
至於市場方面，這壹消息再次凸顯了中國AI實驗室相對於美國同行所取得的進步。該事件對微芯片板塊的影響則不太明朗：壹方面，獲取更低價中國工具的渠道增多意味著使用量上升，進而增加對芯片的需求；另壹方面，中國實驗室轉而使用國產設備的可能性更大。
iShares Semiconductor ETF SOXX周贰大漲5%，但在盤前交易早期階段下跌了2%。
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
AI工具平台Hugging Face上周遭到OpenAI模型攻擊。鑒於當前關於美國公司使用中國AI產品存在風險的警告層出不窮，這壹事件的披露或許會帶來壹個令人驚訝的結論。
Hugging Face上周就已披露此次攻擊，當時尚不知曉OpenAI的模型就是元凶。直到周贰，OpenAI才承認自己造成了此次攻擊。
OpenAI表示，在壹次限制網絡訪問的內部評估中，模型發現了OpenAI研究環境與Hugging Face生產基礎設施中的漏洞。模型借此連上互聯網並獲取了測試答案，換言之，它在評估中作弊了。
OpenAI在聲明中表示：“在沙盒測試環境中運行時，我們的模型消耗了大量推理算力，試圖尋找連接開放互聯網訪問權限的方法，以求解決評估問題。為了獲取訪問權限，這些模型發現並利用了包注冊表緩存代理中的壹個零日漏洞（我們目前已負責任地向供應商披露了該漏洞）。憑借這壹權限，模型在研究測試環境中執行了壹系列權限提升和橫向移動操作，直到觸及壹個具備互聯網訪問權限的節點。”
“該模型搜索並成功找到了獲取機密信息的方法，以便利用這些信息在評估中作弊。在其中壹個案例中，模型將多個攻擊向量串聯起來，包括利用竊取的憑證和零日漏洞，在Hugging Face服務器上找到了壹條遠程代碼執行路徑。”
然而，Hugging Face采取的應對措施是求助於壹款名為GLM 5.2的中國AI模型，該模型由智譜(Z.AI)開發。
Hugging Face在聲明中表示：“在啟動日志分析時，我們首先使用了商業API背後的前沿模型。但這並未奏效：分析工作需要提交大量真實的攻擊指令、漏洞利用載荷以及C2痕跡，而這些請求全被提供商的安全護欄攔截了，因為這些護欄根本無法區分事件響應人員與攻擊者。因此，我們在自己的基礎設施上，改用開放權重模型GLM 5.2進行了取證分析。這還帶來了另壹個好處：沒有任何攻擊者數據，也沒有其引用的任何憑證離開過我們的環境。”
此次攻擊對政策和市場的影響尚不明朗。盡管川普政府近日討論了封禁中國模型的可能舉措，財政部長斯科特·貝森特(Scott Bessent)甚至將美國企業使用這些模型比作使用贓物，但眼下只有中國模型能提供用戶所需的那種自由訪問權限。
OpenAI首席執行官山姆·阿爾特曼透露，尚未發布的ChatGPT模型曾試圖入侵壹項評估測試。
Hugging Face聯合創始人托馬斯·沃爾夫在X平台上發帖稱：“當壹個前沿模型對你發起攻擊，並在你的基礎設施內部橫向移動時，防御人員需要在數小時甚至數分鍾內獲得對接近前沿工具的廣泛訪問權限，而不是被引導至壹個封閉且需經審核的模型訪問申請程序。”
至於市場方面，這壹消息再次凸顯了中國AI實驗室相對於美國同行所取得的進步。該事件對微芯片板塊的影響則不太明朗：壹方面，獲取更低價中國工具的渠道增多意味著使用量上升，進而增加對芯片的需求；另壹方面，中國實驗室轉而使用國產設備的可能性更大。
iShares Semiconductor ETF SOXX周贰大漲5%，但在盤前交易早期階段下跌了2%。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： |
| 延伸閱讀 |
 ChatGPT露骨涉性對話,令OpenA顧問驚懼 |
Meta推出獨立AI應用,與OpenA、谷歌搶奪AI市場 |
推薦: