前所未見!AI突破限制闖入另壹家公司!
OpenAI表示，旗下人工智能系統在受控環境測試過程竟自行設法脫離控制、入侵另壹家新創人工智能公司基礎設施，試圖完成測試任務。（示意圖／美聯社）
OpenAI 21日表示，其人工智能系統在壹起受控環境測試中，竟然自行設法逃脫控制，並入侵了另壹家新創人工智能公司Hugging Face的基礎設施，試圖完成測試任務。遭駭公司上周就發現遭到入侵，且鑒於行為者復雜性，當時就懷疑是AI所為，沒想到果真如此，也讓該公司驚呼這大概是前所未見。
公司執行長阿特曼在發文中坦承這起在評估模型期間遭遇的重大安全事件；OpenAI周贰在壹份聲明中表示，人工智能正在加速漏洞的發現和利用。此次事件的主要教訓是，模型安全必須跟上快速發展的能力步伐。
OpenAI說明，此次入侵是由其人工智能模型組合造成的，其中包含新發布的GPT-5.6 Sol以及壹個仍在內部測試的“更強大”的模型。其人工智能利用竊取的憑證並發現了壹個先前未知的漏洞，成功存取了新創公司Hugging Face伺服器。
OpenAI表示，當時其正在受控環境中測試其壹些最先進模型的性能，但該智能體設法逃脫了控制，連接到網絡並入侵了 Hugging Face，試圖達到其測試目標。OpenAI形容，這是“壹起涉及尖端網絡能力、前所未見的網絡事件”，公司正在強化其安全防護措施。
遭駭入的公司Hugging Face上周就揭露，偵測到其資料處理系統遭到入侵，並懷疑這是由人工智能代理自主行動造成的。其共同創辦人德朗格在聲明中說，鑒於攻擊者的復雜性，該公司懷疑這次的網絡攻擊可能來自某個前沿實驗室，結果證明確實如此！
德朗格表示，他過去24小時壹直在與OpenAI合作，該公司堅信OpenAI沒有任何惡意，這壹切竟然都是自主發生的，真是令人難以置信！
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： |
| 延伸閱讀 |
推薦: