[《歌手》] 女歌手"裸照"泄露,AI脫衣"剝光任何人"
更讓人擔憂的是，這類網絡性暴力正形成產業鏈。
2024年，韓國出現了壹波深度偽造圖像的浪潮。多家媒體報道稱，某些社交媒體平台上，存在大量專門制作和分享深度偽造色情內容的群組。有些群組甚至以特定的學校、大學或地區命名。
分享深度偽造色情內容的群組
受害者多為年輕女性。據韓國警方披露的數據顯示，相關案件中，近60%的受害者是未成年人，且許多犯罪者也是未成年人，他們不僅制作明星的假裸照，更鼓勵成員上傳身邊的同學、老師、甚至親屬的照片進行“定制”。
AI性暴力受害者不分國界，不分年齡，且呈現出明顯的低齡化趨勢。壹份針對美國13-20歲年輕人的調查顯示，近年來，青少年群體對“deepfakenudes”（深度偽造裸照）的認識與直接接觸顯著上升。
受訪的1200名13-20歲年輕人中，41%表示聽說過“深度偽造裸照”這壹術語，其中，有約31%是青少年。不僅如此，在這些青少年裡，約10%的人表示認識被制作深度偽造裸照的人，還有約6%就是直接受害者。
“這幾乎就像新壹代的裸照泄露。它們對人的影響和真實裸照泄露是壹樣的。”美國南部壹位19歲的混血女孩表示。
研究員諾埃爾·馬丁的臉曾被用於色情內容。她說，即使這些圖片並不拾分逼真，“也足以對人造成無法彌補的傷害”。
這些經歷波及到她生活的方方面面。“從你的就業能力到未來的收入潛力，再到你的人際關系。這是壹種無法逃避的虐待形式，其後果會持續終生。”馬丁不得不在求職面試，甚至是初次約會時提及此事。
03
任何人都可能受害
數字化時代，壹張虛假的色情圖像在網絡上流傳，極可能會直接影響受害者的現實生活。即便身體沒有受到物理侵犯，受害者的尊嚴和對身體的掌控權會被徹底剝奪。
而在此次Grok事件中，部分受害者受到的傷害不僅源自照片本身，還有評論區的反應。
她們發帖表示憤怒和痛苦，卻遭遇了典型的受害者有罪論，以及網絡暴力的贰次傷害。壹些人輕描淡寫地告訴她們，“這不是你”。還有人讓她們別發照片，甚至對其進行蕩婦羞辱。
面對愈演愈烈的AI性暴力，世界各國都在嘗試建立防線。
Grok引發爭議後，多國監管部門和媒體對X平台和Grok提出質疑，並在不同程度上采取了限制和封鎖措施。
印尼政府暫時封鎖了Grok網站。印尼通信和數字事務部於1月10日發表聲明稱，此舉是為“保護婦女、兒童和整個社會免受利用人工智能技術生成的虛假色情內容的侵害”。
次日，馬來西亞互聯網監管機構也表示，在有效的安全措施落實到位前，將限制對Grok的使用。
[物價飛漲的時候 這樣省錢購物很爽]
已經有 2 人參與評論了, 我也來說幾句吧
2024年，韓國出現了壹波深度偽造圖像的浪潮。多家媒體報道稱，某些社交媒體平台上，存在大量專門制作和分享深度偽造色情內容的群組。有些群組甚至以特定的學校、大學或地區命名。
分享深度偽造色情內容的群組
受害者多為年輕女性。據韓國警方披露的數據顯示，相關案件中，近60%的受害者是未成年人，且許多犯罪者也是未成年人，他們不僅制作明星的假裸照，更鼓勵成員上傳身邊的同學、老師、甚至親屬的照片進行“定制”。
AI性暴力受害者不分國界，不分年齡，且呈現出明顯的低齡化趨勢。壹份針對美國13-20歲年輕人的調查顯示，近年來，青少年群體對“deepfakenudes”（深度偽造裸照）的認識與直接接觸顯著上升。
受訪的1200名13-20歲年輕人中，41%表示聽說過“深度偽造裸照”這壹術語，其中，有約31%是青少年。不僅如此，在這些青少年裡，約10%的人表示認識被制作深度偽造裸照的人，還有約6%就是直接受害者。
“這幾乎就像新壹代的裸照泄露。它們對人的影響和真實裸照泄露是壹樣的。”美國南部壹位19歲的混血女孩表示。
研究員諾埃爾·馬丁的臉曾被用於色情內容。她說，即使這些圖片並不拾分逼真，“也足以對人造成無法彌補的傷害”。
這些經歷波及到她生活的方方面面。“從你的就業能力到未來的收入潛力，再到你的人際關系。這是壹種無法逃避的虐待形式，其後果會持續終生。”馬丁不得不在求職面試，甚至是初次約會時提及此事。
03
任何人都可能受害
數字化時代，壹張虛假的色情圖像在網絡上流傳，極可能會直接影響受害者的現實生活。即便身體沒有受到物理侵犯，受害者的尊嚴和對身體的掌控權會被徹底剝奪。
而在此次Grok事件中，部分受害者受到的傷害不僅源自照片本身，還有評論區的反應。
她們發帖表示憤怒和痛苦，卻遭遇了典型的受害者有罪論，以及網絡暴力的贰次傷害。壹些人輕描淡寫地告訴她們，“這不是你”。還有人讓她們別發照片，甚至對其進行蕩婦羞辱。
面對愈演愈烈的AI性暴力，世界各國都在嘗試建立防線。
Grok引發爭議後，多國監管部門和媒體對X平台和Grok提出質疑，並在不同程度上采取了限制和封鎖措施。
印尼政府暫時封鎖了Grok網站。印尼通信和數字事務部於1月10日發表聲明稱，此舉是為“保護婦女、兒童和整個社會免受利用人工智能技術生成的虛假色情內容的侵害”。
次日，馬來西亞互聯網監管機構也表示，在有效的安全措施落實到位前，將限制對Grok的使用。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: