Deepfake性犯罪激增:AI可能創造新壹代的施虐者?
深度偽造（Deepfake）濫用正在成為針對婦女暴力的新前沿。近日，韓國多起涉案嫌疑人在未經女性知情或同意下，利用人工智能技術合成真實人臉與虛假身體，偽造色情影像，並在多個社交媒體群組廣泛傳播。據韓聯社報道顯示，近年來，韓國Deepfake性犯罪案件數量壹直呈上升態勢，從2021年的156起增至2023年的180起，今年僅前柒個月甚至已經累計報告297起。其中，案件受害者以年輕女性為主，主要包括學生、教師和士兵，且近叁分之贰的受害人都是青少年。
???????
此次激增的Deepfake性犯罪引發全球多國網民恐慌。但這並不是壹次突然的爆發。
實際上，早在今年年初，美國知名歌手泰勒·斯威夫特（Taylor Swift）的深度偽造色情圖片就曾在社交媒體廣泛傳播，在平台方做出刪除處理前，該圖片已被累計瀏覽超4700萬次。遺憾的是，這次事件僅在粉絲群體內部引起震蕩。美國有線電視新聞網還曾在今年1月末專門刊發評論文章，稱“我們最大的錯誤就是，相信這種傷害只發生在公眾人物身上”。而在更早些的2019年，網絡安全公司“深度追蹤”（Deeptrace）也曾發布過壹項調研，結果顯示當時96%的在線深度偽造視頻都是非自願情色內容。“這不是壹個小眾問題。”
此次引發關注的Deepfake案件，指向了網絡性犯罪已經到了壹個全新的階段。當我們梳理圍繞Deepfake案件的相關討論時會發現，這種看似非身體的暴力之所以引發如此廣泛的擔憂，民眾真正擔心的是壹種更廣泛的、充滿敵意的網絡環境滲入真實世界。
人工智能工具可能會導致新壹代年輕人產生“我的願望就是人工智能的命令”的心態。“如果我們不小心，不僅會創造新壹代的受害者，還會創造新壹代的施虐者。”這些討論也再度提示我們，關於性別的偏見——這壹世界上最古老的偏見並未遠去，如何實現兩性之間的真正平等仍然任重道遠。而技術壹直隱含風險，它是工具卻從來不是答案。
撰文｜申璐
Deepfake案件回溯：
報復性的色情？
從某種程度來說，Deepfake（深度偽造）之於視頻，就像Photoshop之於圖片。兩者都直觀沖擊了真實和虛擬之間的界限。在深度偽造技術流行之前，人們對“廉價偽造”應該都不陌生。後者指的是對現成素材進行處理，且處理方式僅限於減慢或加快視頻中部分段落的播放速度，或者選擇性地剪輯拼貼內容。美國眾議院議長南希·佩羅西（Nancy Pelosi）就曾深受其害。相較而言，深度偽造的變形制作則可以將壹張臉與另壹張臉互換、或將壹張臉上的表情換到另壹張臉上，在這個基礎上再結合配音或者聲音克隆等方式，這項技術就能夠實現以極低的成本制作出完全虛構但極其逼真的視頻。早年間國外社交媒體曾流傳過美國總統尼克松針對登月災難的演講，即是深度偽造的結果。
[加西網正招聘多名全職sales 待遇優]
無評論不新聞，發表壹下您的意見吧
???????
此次激增的Deepfake性犯罪引發全球多國網民恐慌。但這並不是壹次突然的爆發。
實際上，早在今年年初，美國知名歌手泰勒·斯威夫特（Taylor Swift）的深度偽造色情圖片就曾在社交媒體廣泛傳播，在平台方做出刪除處理前，該圖片已被累計瀏覽超4700萬次。遺憾的是，這次事件僅在粉絲群體內部引起震蕩。美國有線電視新聞網還曾在今年1月末專門刊發評論文章，稱“我們最大的錯誤就是，相信這種傷害只發生在公眾人物身上”。而在更早些的2019年，網絡安全公司“深度追蹤”（Deeptrace）也曾發布過壹項調研，結果顯示當時96%的在線深度偽造視頻都是非自願情色內容。“這不是壹個小眾問題。”
此次引發關注的Deepfake案件，指向了網絡性犯罪已經到了壹個全新的階段。當我們梳理圍繞Deepfake案件的相關討論時會發現，這種看似非身體的暴力之所以引發如此廣泛的擔憂，民眾真正擔心的是壹種更廣泛的、充滿敵意的網絡環境滲入真實世界。
人工智能工具可能會導致新壹代年輕人產生“我的願望就是人工智能的命令”的心態。“如果我們不小心，不僅會創造新壹代的受害者，還會創造新壹代的施虐者。”這些討論也再度提示我們，關於性別的偏見——這壹世界上最古老的偏見並未遠去，如何實現兩性之間的真正平等仍然任重道遠。而技術壹直隱含風險，它是工具卻從來不是答案。
撰文｜申璐
Deepfake案件回溯：
報復性的色情？
從某種程度來說，Deepfake（深度偽造）之於視頻，就像Photoshop之於圖片。兩者都直觀沖擊了真實和虛擬之間的界限。在深度偽造技術流行之前，人們對“廉價偽造”應該都不陌生。後者指的是對現成素材進行處理，且處理方式僅限於減慢或加快視頻中部分段落的播放速度，或者選擇性地剪輯拼貼內容。美國眾議院議長南希·佩羅西（Nancy Pelosi）就曾深受其害。相較而言，深度偽造的變形制作則可以將壹張臉與另壹張臉互換、或將壹張臉上的表情換到另壹張臉上，在這個基礎上再結合配音或者聲音克隆等方式，這項技術就能夠實現以極低的成本制作出完全虛構但極其逼真的視頻。早年間國外社交媒體曾流傳過美國總統尼克松針對登月災難的演講，即是深度偽造的結果。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: