[馬斯克] X失控!馬斯克旗下AI聊天機器人陷性暴露內容風波
英國非營利組織互聯網觀察基金會致力於減少針對兒童的在線性虐待內容，該組織熱線負責人奈爾·亞歷山大對《華爾街日報》透露，分析師在暗網論壇發現未成年人性化圖像，制作者聲稱使用Grok生成這些內容。這些圖像描繪了11至13歲左右的性化裸露少女，符合英國對兒童性虐待犯罪材料的認定標准。
“Grok這類工具正將AI生成的兒童色情圖像推向主流，其危害正呈漣漪式擴散。”亞歷山大說道。
曾與馬斯克育有壹子的保守派網紅阿什莉·聖克萊爾在接受美媒采訪時表示，X平台用戶正利用Grok技術對她的照片進行裸體處理，其中包括她14歲時的照片。她在X平台發文呼吁其他用戶若遭遇類似情況及時告知，此後她收到大量絕望父母發來的求助信息，要求刪除被性化的兒童照片。
去年，致力於開發兒童安全檢測工具的非營利組織Thorn宣布，因X停止付款而終止合同。當年4月，包括OpenAI、谷歌和Anthropic在內的幾家頂尖AI公司加入了由Thorn牽頭的壹項倡議，旨在防止人工智能被用於虐待兒童，xAI並未參與其中。
去年11月，科技媒體The Information報道稱，X平台裁撤了半數負責信任安全事務的工程團隊。該媒體同時披露，X員工特別擔憂Grok的圖像生成工具“可能導致非法或有害圖像擴散”。
“完全可以構建防護機制，通過掃描圖像判斷是否存在兒童，從而促使AI更謹慎地運作。但防護機制存在代價。”OpenAI前人工智能安全研究員史蒂文·阿德勒對CNN說，這些代價包括響應速度變慢、計算量增加，有時甚至會導致模型拒絕處理無問題的請求。
美國國家失蹤與受虐兒童中心（NCMEC）執行主任勞倫·科弗倫近期向國會作證稱，2025年NCMEC收到440419份與生成式AI相關的舉報，相比去年增幅超過六倍。施虐者利用AI將兒童的普通照片修改成色情圖片，生成全新的兒童性虐待材料（CSAM），甚至提供誘騙兒童的指導。
冰山壹角
AI至少從2017年就開始被用於生成未經同意的色情內容，當時北美媒體VICE首次報道了“深度偽造”（deepfake）技術。《大西洋月刊》報道認為，Grok正讓這類內容的制作變得更加容易，而且它與主流社交平台X的整合，使其能夠將未經同意的性化圖像轉化為病毒式傳播的現象。
1月初，印度電子和信息技術部下令X對Grok進行壹次“全面的技術、程序和治理層面的審查”，並要求該公司在1月5日之前完成整改。馬來西亞通信與多媒體委員會（MCMC）3日發聲明表示，正在調查X，並將傳喚公司代表。
8日，歐盟要求X保留所有與Grok相關的內部文件和數據直至2026年底，這是對先前數據保留指令的延長，旨在確保監管機構能夠獲取與《數字服務法》（DSA）合規性相關的材料。
在美國，全國性剝削中心（NCOSE）在接受CNBC采訪時呼吁司法部和聯邦貿易委員會對此事展開調查。NCOSE首席法律官兼法律中心主任丹妮·平特表示，“針對這些具體問題，並沒有太多相關的法律先例。”
去年，美國總統特朗普簽署了“TAKE IT DOWN”法案，將知情但發布或托管未經同意的露骨圖像定義為聯邦犯罪。但有專家指出，該法律的局限在於：只有當受害者主動站出來後，平台才被要求啟動刪除程序。
X公司3日在其官方賬號X Safety上就此事發表了首份公開聲明：“我們會對X上的非法內容采取行動，包括刪除兒童性虐待材料 （CSAM），永久暫停賬戶，並在必要時與地方政府和執法部門合作。”
目前為止，這場爭議尚未對X的流量造成任何損害。據追蹤移動應用趨勢的Apptopia數據顯示，1月2日至5日，Grok的每日下載量增長了54%，而X的每日下載量增長了25%。
美國科技媒體《連線》7日報道稱，Grok和X是壹個價值數百萬美元的“去衣”產業的冰山壹角。過去幾年裡，出現了數拾個獨立應用和網站，聲稱可以在未經同意的情況下對女性進行“數字脫衣”，它們往往將自己包裝成無害的新奇工具，卻在實際上助長了基於圖像的性暴力。訴訟和立法都需要時間，尤其是在技術以極快速度進入市場的當下，法律很難跟上這種節奏。
根據移動應用數據分析公司Apptopia的數據，自1月2日以來的壹周內，Grok的每日下載量增長了54%。
[加西網正招聘多名全職sales 待遇優]
還沒人說話啊，我想來說幾句
“Grok這類工具正將AI生成的兒童色情圖像推向主流，其危害正呈漣漪式擴散。”亞歷山大說道。
曾與馬斯克育有壹子的保守派網紅阿什莉·聖克萊爾在接受美媒采訪時表示，X平台用戶正利用Grok技術對她的照片進行裸體處理，其中包括她14歲時的照片。她在X平台發文呼吁其他用戶若遭遇類似情況及時告知，此後她收到大量絕望父母發來的求助信息，要求刪除被性化的兒童照片。
去年，致力於開發兒童安全檢測工具的非營利組織Thorn宣布，因X停止付款而終止合同。當年4月，包括OpenAI、谷歌和Anthropic在內的幾家頂尖AI公司加入了由Thorn牽頭的壹項倡議，旨在防止人工智能被用於虐待兒童，xAI並未參與其中。
去年11月，科技媒體The Information報道稱，X平台裁撤了半數負責信任安全事務的工程團隊。該媒體同時披露，X員工特別擔憂Grok的圖像生成工具“可能導致非法或有害圖像擴散”。
“完全可以構建防護機制，通過掃描圖像判斷是否存在兒童，從而促使AI更謹慎地運作。但防護機制存在代價。”OpenAI前人工智能安全研究員史蒂文·阿德勒對CNN說，這些代價包括響應速度變慢、計算量增加，有時甚至會導致模型拒絕處理無問題的請求。
美國國家失蹤與受虐兒童中心（NCMEC）執行主任勞倫·科弗倫近期向國會作證稱，2025年NCMEC收到440419份與生成式AI相關的舉報，相比去年增幅超過六倍。施虐者利用AI將兒童的普通照片修改成色情圖片，生成全新的兒童性虐待材料（CSAM），甚至提供誘騙兒童的指導。
冰山壹角
AI至少從2017年就開始被用於生成未經同意的色情內容，當時北美媒體VICE首次報道了“深度偽造”（deepfake）技術。《大西洋月刊》報道認為，Grok正讓這類內容的制作變得更加容易，而且它與主流社交平台X的整合，使其能夠將未經同意的性化圖像轉化為病毒式傳播的現象。
1月初，印度電子和信息技術部下令X對Grok進行壹次“全面的技術、程序和治理層面的審查”，並要求該公司在1月5日之前完成整改。馬來西亞通信與多媒體委員會（MCMC）3日發聲明表示，正在調查X，並將傳喚公司代表。
8日，歐盟要求X保留所有與Grok相關的內部文件和數據直至2026年底，這是對先前數據保留指令的延長，旨在確保監管機構能夠獲取與《數字服務法》（DSA）合規性相關的材料。
在美國，全國性剝削中心（NCOSE）在接受CNBC采訪時呼吁司法部和聯邦貿易委員會對此事展開調查。NCOSE首席法律官兼法律中心主任丹妮·平特表示，“針對這些具體問題，並沒有太多相關的法律先例。”
去年，美國總統特朗普簽署了“TAKE IT DOWN”法案，將知情但發布或托管未經同意的露骨圖像定義為聯邦犯罪。但有專家指出，該法律的局限在於：只有當受害者主動站出來後，平台才被要求啟動刪除程序。
X公司3日在其官方賬號X Safety上就此事發表了首份公開聲明：“我們會對X上的非法內容采取行動，包括刪除兒童性虐待材料 （CSAM），永久暫停賬戶，並在必要時與地方政府和執法部門合作。”
目前為止，這場爭議尚未對X的流量造成任何損害。據追蹤移動應用趨勢的Apptopia數據顯示，1月2日至5日，Grok的每日下載量增長了54%，而X的每日下載量增長了25%。
美國科技媒體《連線》7日報道稱，Grok和X是壹個價值數百萬美元的“去衣”產業的冰山壹角。過去幾年裡，出現了數拾個獨立應用和網站，聲稱可以在未經同意的情況下對女性進行“數字脫衣”，它們往往將自己包裝成無害的新奇工具，卻在實際上助長了基於圖像的性暴力。訴訟和立法都需要時間，尤其是在技術以極快速度進入市場的當下，法律很難跟上這種節奏。
根據移動應用數據分析公司Apptopia的數據，自1月2日以來的壹周內，Grok的每日下載量增長了54%。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: