新聞 
AI代理失控"駭入其他公司" OpenAI逾1周後才發現
AI代理失控"駭入其他公司" OpenAI逾1周後才發現AI代理失控"駭入其他公司" OpenAI逾1周後才發現
OpenAI壹款人工智能代理（AI Agent）程式，連續數日對AI工具平台Hugging Face展開駭客攻擊，但該公司對此毫不知情，直到威脅受控、美國聯邦調查局（FBI）也接獲通報後，才知道自家AI闖下大禍。
AI代理駭入其他公司 OpenAI後知後覺
《路透社》引述多位知情人士說法報導，這款AI代理能夠在幾乎不需人類監督的情況下，做出決策並執行復雜任務。它7月9日就曾嘗試突破OpenAI內部隔離測試環境，7月11日對Hugging Face發動駭客入侵，直至7月13日才停止。
Hugging Face於7月16日發文自揭遭“自主AI代理人系統”駭入後，OpenAI才透過內部日志發現，正是自家AI突破測試環境並闖下大禍。也就是說，從這款AI代理首次出現異常行為，到OpenAI確認它是駭客攻擊元凶，已相隔至少1周。
等到OpenAI通知受害者時，Hugging Face早已向FBI通報這次駭客事件。
根據Hugging Face共同創辦人沃爾夫（Thomas Wolf）說法，2家公司直到7月20日前後才首次針對此事進行溝通。OpenAI則於7月21日公開承認，其中壹個AI代理失控並入侵Hugging Face，宣稱此事“標志著AI安全的重要時刻”，將邀請外部顧問共同檢討並發表技術報告。
盡管事件引發廣泛關注，但駭客行動持續多久、OpenAI的反應遲緩等細節，直到《路透社》獨家報導才被首次揭露。OpenAI發言人宣稱報導存在“幾處不精准”的描述，被要求進壹步說明時卻不予回應。
早有奇怪跡象 AI安全引關注
知情人士透露，這起事件發生在OpenAI測試2個模型的網絡安全能力之際，即目前最先進模型GPT?5.6 Sol，以及另壹個“能力更強”的未發布模型。
不過，OpenAI的技術早已出現異常行為跡象。壹個AI代理曾在內部基礎設施留下“給未來版本自己”的筆記，詳述如何突破OpenAI的內部限制。先前的測試也曾出現監控系統遭斷線的情況。
資安研究機構Palisade Research的拉迪什（Jeffrey Ladish）直言，“這些模型會說謊、會作弊、會進行駭客攻擊”，此事件不應只是OpenAI的危機，也該引發整個AI產業的反思，各大巨頭承擔競爭壓力之余，願意在安全防護上投注多少資源。他也呼吁，政府必須帶頭進行監督。
[物價飛漲的時候 這樣省錢購物很爽]
好新聞沒人評論怎麼行，我來說幾句
AI代理駭入其他公司 OpenAI後知後覺
《路透社》引述多位知情人士說法報導，這款AI代理能夠在幾乎不需人類監督的情況下，做出決策並執行復雜任務。它7月9日就曾嘗試突破OpenAI內部隔離測試環境，7月11日對Hugging Face發動駭客入侵，直至7月13日才停止。
Hugging Face於7月16日發文自揭遭“自主AI代理人系統”駭入後，OpenAI才透過內部日志發現，正是自家AI突破測試環境並闖下大禍。也就是說，從這款AI代理首次出現異常行為，到OpenAI確認它是駭客攻擊元凶，已相隔至少1周。
等到OpenAI通知受害者時，Hugging Face早已向FBI通報這次駭客事件。
根據Hugging Face共同創辦人沃爾夫（Thomas Wolf）說法，2家公司直到7月20日前後才首次針對此事進行溝通。OpenAI則於7月21日公開承認，其中壹個AI代理失控並入侵Hugging Face，宣稱此事“標志著AI安全的重要時刻”，將邀請外部顧問共同檢討並發表技術報告。
盡管事件引發廣泛關注，但駭客行動持續多久、OpenAI的反應遲緩等細節，直到《路透社》獨家報導才被首次揭露。OpenAI發言人宣稱報導存在“幾處不精准”的描述，被要求進壹步說明時卻不予回應。
早有奇怪跡象 AI安全引關注
知情人士透露，這起事件發生在OpenAI測試2個模型的網絡安全能力之際，即目前最先進模型GPT?5.6 Sol，以及另壹個“能力更強”的未發布模型。
不過，OpenAI的技術早已出現異常行為跡象。壹個AI代理曾在內部基礎設施留下“給未來版本自己”的筆記，詳述如何突破OpenAI的內部限制。先前的測試也曾出現監控系統遭斷線的情況。
資安研究機構Palisade Research的拉迪什（Jeffrey Ladish）直言，“這些模型會說謊、會作弊、會進行駭客攻擊”，此事件不應只是OpenAI的危機，也該引發整個AI產業的反思，各大巨頭承擔競爭壓力之余，願意在安全防護上投注多少資源。他也呼吁，政府必須帶頭進行監督。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： |
| 延伸閱讀 |
推薦: