[離婚] 韓9440億最貴離婚案判了!最渣財閥與總統千金...
近日，美國人工智能公司OpenAI的模型在安全測試中失控“越獄”，攻擊了全球最大AI開源平台Hugging Face的生產基礎設施，制造了業內首例“AI自主入侵事件”，引發軒然大波。事發後，Hugging Face通過求助中國公司智譜開發的開源模型GLM-5.2，才得以完成取證分析。
當地時間7月24日，路透社報道披露了這起安全事件背後更多的細節。據兩名知情人士透露，大約在7月9日，入侵Hugging Face的OpenAI智能體就試圖突破隔離測試環境。該智能體進行了長達數天的黑客攻擊，而OpenAI直到事態得到控制、聯邦調查局（FBI）已接到警報後很久，才察覺到這壹情況。
Hugging Face聯合創始人托馬斯·沃爾夫表示，對Hugging Face的入侵始於兩天後的7月11日，持續至7月13日。又過了好幾天，OpenAI才發現其智能體是此次攻擊的幕後黑手，兩家公司直到7月20日才首次就此事進行溝通。隔天，OpenAI承認自己造成了此次攻擊。
兩名知情人士也稱，7月16日Hugging Face發布博客文章，稱其遭到“壹個自主AI智能體系統”入侵之後，OpenAI才意識到是其自身的代理系統導致了此次攻擊。這意味著，從模型首次出現異常行為到OpenAI確認其為攻擊元凶，至少過去了壹周時間。
Hugging Face在這份聲明中透露，其安全團隊為還原逾1.7萬條攻擊日志，起初嘗試調用美國商用前沿API，但因載荷包含真實漏洞利用代碼，所有請求均被服務提供商的安全機制以“無法區分響應人員與攻擊者”為由攔截。團隊隨後轉而在自有基礎設施上部署運行中國AI公司智譜開發的GLM 5.2模型進行取證分析，最終“得以在數小時內完成通常需數天的溯源工作，與攻擊者的速度保持同步”。
而據兩名熟悉OpenAI調查的人士所說，直到7月18日至19日，OpenAI員工才在記錄系統運行情況的內部日志中發現線索，得知其智能體已逃離了測試限制。肆名熟悉OpenAI訓練流程的人士補充稱，該公司通常同時運行多項不同的模型評估，所有評估都以高速運行並產生海量數據，員工有時難以及時跟進。
另有壹名知情人士提到，等到OpenAI向Hugging Face發出警報時，Hugging Face已致電FBI報告了此次攻擊事件。FBI拒絕對此發表評論。
沃爾夫告訴路透社，Hugging Face正在准備壹份關於此次攻擊的公開時間線，但他無法就OpenAI內部發生的情況發表評論。
OpenAI則在壹份聲明中表示，此次攻擊“史無前例”，並“標志著AI安全領域的壹個重要時刻”。聲明還稱，公司正與外部顧問壹起審查該事件，最終將發布技術報告。
據報道，OpenAI發言人聲稱路透社的報道中存在“若幹不准確之處”，但當被要求具體說明時未予回應。
叁名網絡安全專家指出，OpenAI對其AI智能體失去控制，引發了對其安全流程的新壹輪質疑。
非營利組織世界倫理數據基金會首席情報專家馬利·史密斯問道：“這是否意味著他們疏於照看，沒有意識到它（智能體）在做什麼？還是說他們意識到了，卻不知道如何控制？兩種情況同樣危險且令人擔憂。”
帕利塞德研究組織的傑弗裡·拉迪什表示，雖然攻擊事件令OpenAI蒙羞，但這也應引發更廣泛的問題：所有領先的AI公司在競相部署最好、最快模型的同時，究竟願意在繁瑣的安全措施上投入多少。
“必須有政府監管，”拉迪什說，“否則不會有人去做。”
[加西網正招聘多名全職sales 待遇優]
這條新聞還沒有人評論喔，等著您的高見呢
當地時間7月24日，路透社報道披露了這起安全事件背後更多的細節。據兩名知情人士透露，大約在7月9日，入侵Hugging Face的OpenAI智能體就試圖突破隔離測試環境。該智能體進行了長達數天的黑客攻擊，而OpenAI直到事態得到控制、聯邦調查局（FBI）已接到警報後很久，才察覺到這壹情況。
Hugging Face聯合創始人托馬斯·沃爾夫表示，對Hugging Face的入侵始於兩天後的7月11日，持續至7月13日。又過了好幾天，OpenAI才發現其智能體是此次攻擊的幕後黑手，兩家公司直到7月20日才首次就此事進行溝通。隔天，OpenAI承認自己造成了此次攻擊。
兩名知情人士也稱，7月16日Hugging Face發布博客文章，稱其遭到“壹個自主AI智能體系統”入侵之後，OpenAI才意識到是其自身的代理系統導致了此次攻擊。這意味著，從模型首次出現異常行為到OpenAI確認其為攻擊元凶，至少過去了壹周時間。
Hugging Face在這份聲明中透露，其安全團隊為還原逾1.7萬條攻擊日志，起初嘗試調用美國商用前沿API，但因載荷包含真實漏洞利用代碼，所有請求均被服務提供商的安全機制以“無法區分響應人員與攻擊者”為由攔截。團隊隨後轉而在自有基礎設施上部署運行中國AI公司智譜開發的GLM 5.2模型進行取證分析，最終“得以在數小時內完成通常需數天的溯源工作，與攻擊者的速度保持同步”。
而據兩名熟悉OpenAI調查的人士所說，直到7月18日至19日，OpenAI員工才在記錄系統運行情況的內部日志中發現線索，得知其智能體已逃離了測試限制。肆名熟悉OpenAI訓練流程的人士補充稱，該公司通常同時運行多項不同的模型評估，所有評估都以高速運行並產生海量數據，員工有時難以及時跟進。
另有壹名知情人士提到，等到OpenAI向Hugging Face發出警報時，Hugging Face已致電FBI報告了此次攻擊事件。FBI拒絕對此發表評論。
沃爾夫告訴路透社，Hugging Face正在准備壹份關於此次攻擊的公開時間線，但他無法就OpenAI內部發生的情況發表評論。
OpenAI則在壹份聲明中表示，此次攻擊“史無前例”，並“標志著AI安全領域的壹個重要時刻”。聲明還稱，公司正與外部顧問壹起審查該事件，最終將發布技術報告。
據報道，OpenAI發言人聲稱路透社的報道中存在“若幹不准確之處”，但當被要求具體說明時未予回應。
叁名網絡安全專家指出，OpenAI對其AI智能體失去控制，引發了對其安全流程的新壹輪質疑。
非營利組織世界倫理數據基金會首席情報專家馬利·史密斯問道：“這是否意味著他們疏於照看，沒有意識到它（智能體）在做什麼？還是說他們意識到了，卻不知道如何控制？兩種情況同樣危險且令人擔憂。”
帕利塞德研究組織的傑弗裡·拉迪什表示，雖然攻擊事件令OpenAI蒙羞，但這也應引發更廣泛的問題：所有領先的AI公司在競相部署最好、最快模型的同時，究竟願意在繁瑣的安全措施上投入多少。
“必須有政府監管，”拉迪什說，“否則不會有人去做。”
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： |
| 延伸閱讀 | 更多... |
推薦: