新聞 
壹個AI恐怖故事:我在色情網站,看到了自己
壹個AI恐怖故事:我在色情網站,看到了自己壹個AI恐怖故事:我在色情網站,看到了自己
2017年，壹位Reddit用戶在Reddit新建了壹個名為“DeepFake”的社區，開始用名人的肖像來制作色情內容進行傳播。知名女星斯嘉麗·約翰遜（Scarlett Johansson）、加爾·加朵（Gal Gadot）都成為了受害者，其帶來的惡劣影響，也曾喧囂壹時。
後來，這個社區雖然被很快刪除了，但“DeepFake”這個名字卻被保留了下來，並成為AI合成內容的代名詞。
在這個階段，DeepFake還掌握在以學術研究為主的少數群體手中，導致它的使用仍然存在壹些門檻。直到2019年，開源工具FaceSwap將DeepFake的應用從學術研究普及到大眾，然後第壹個廣泛流行的DeepFake應用FakeApp就隨之出現，它讓非技術人員也能輕松創建DeepFake視頻。
DeepFake從此開始越來越普遍，從2019年到2020年，DeepFake頻繁引發各類公共事件，其影響范圍也從娛樂色情擴展到經濟社會的各個方面，甚至包括總統選舉。
而韓國新N號事件最大的壹個變化在於，它說明DeepFake的受害者正在加速平民化，未來DeepFake的受害者，不再局限於明星政要，包括你我在內，每壹個人都有可能成為新的受害者。
DeepFake相關代表事件
如今，隨著AI大模型技術的發展，制作壹張DeepFake圖片的成本幾乎已經可以忽略不計。
這次韓國新N號房之所以波及范圍如此之廣，壹個重要的原因是，在Telegram上隨便加入壹個DeepFake的社群，就會獲得兩次免費的圖片生成機會。
“將你喜歡的女生照片發給我。”這是很多人加入在Telegram上加入DeepFake社群的第壹步。
兩次免費的生成機會之後，新的內容生成雖然需要付費，但價格也並不高，每壹次只需要支付壹顆鑽石（Telegram的壹種加密貨幣，約合0.49美元，3.49元人民幣(专题)）。而且和所有充值辦卡的邏輯壹樣，充得越多，價格還會越便宜。
當然，你也可以選擇不付費，那麼你只需要再邀請壹位新朋友加入，就可以再獲得壹次免費生成的機會。由壹個人拉來另壹個人，罪惡通過熟人關系進行裂變，然後如病毒般擴散[1]。
這也導致另壹個問題，那些所有通過DeepFake生成的淫穢內容，都由熟人進行制作，並在熟人圈子裡進行傳播。
比如在韓國學校裡，許多人就將身邊朋友的照片用來生成淫穢色情內容。很多照片，可能就來自你剛剛生日，或者旅游之後在社交媒體發布的美照。
由於熟人的關系，這些“臉”屬於誰也通常被標記得壹清贰楚。你可能會莫名收到來自陌生人的短信或者郵件，對方能夠明確指出你學校和班級，或者你的工作單位和家庭住址，然後在末尾放上壹段由“你”出演的性愛視頻。
對於身處其中的受害者而言，這件事情最可怕之處在於，你不知道平日裡衣冠楚楚的朋友們，會不會就是這23萬人中的壹員；你不知道之前發布在社交媒體的照片會不會已經被他們保存下來，然後替換到那些淫穢不堪的場景當中。
你不知道他們會把這些照片發給誰，如何對著這些東西對你品頭論足，身邊又有多少人看過這些內容。
你只知道，這個世界有壹雙無形的眼睛，在不為人知處默默的注視著、覬覦著你。
只是壹場游戲
受害者們自然不會緘口不言。
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
後來，這個社區雖然被很快刪除了，但“DeepFake”這個名字卻被保留了下來，並成為AI合成內容的代名詞。
在這個階段，DeepFake還掌握在以學術研究為主的少數群體手中，導致它的使用仍然存在壹些門檻。直到2019年，開源工具FaceSwap將DeepFake的應用從學術研究普及到大眾，然後第壹個廣泛流行的DeepFake應用FakeApp就隨之出現，它讓非技術人員也能輕松創建DeepFake視頻。
DeepFake從此開始越來越普遍，從2019年到2020年，DeepFake頻繁引發各類公共事件，其影響范圍也從娛樂色情擴展到經濟社會的各個方面，甚至包括總統選舉。
而韓國新N號事件最大的壹個變化在於，它說明DeepFake的受害者正在加速平民化，未來DeepFake的受害者，不再局限於明星政要，包括你我在內，每壹個人都有可能成為新的受害者。
DeepFake相關代表事件
如今，隨著AI大模型技術的發展，制作壹張DeepFake圖片的成本幾乎已經可以忽略不計。
這次韓國新N號房之所以波及范圍如此之廣，壹個重要的原因是，在Telegram上隨便加入壹個DeepFake的社群，就會獲得兩次免費的圖片生成機會。
“將你喜歡的女生照片發給我。”這是很多人加入在Telegram上加入DeepFake社群的第壹步。
兩次免費的生成機會之後，新的內容生成雖然需要付費，但價格也並不高，每壹次只需要支付壹顆鑽石（Telegram的壹種加密貨幣，約合0.49美元，3.49元人民幣(专题)）。而且和所有充值辦卡的邏輯壹樣，充得越多，價格還會越便宜。
當然，你也可以選擇不付費，那麼你只需要再邀請壹位新朋友加入，就可以再獲得壹次免費生成的機會。由壹個人拉來另壹個人，罪惡通過熟人關系進行裂變，然後如病毒般擴散[1]。
這也導致另壹個問題，那些所有通過DeepFake生成的淫穢內容，都由熟人進行制作，並在熟人圈子裡進行傳播。
比如在韓國學校裡，許多人就將身邊朋友的照片用來生成淫穢色情內容。很多照片，可能就來自你剛剛生日，或者旅游之後在社交媒體發布的美照。
由於熟人的關系，這些“臉”屬於誰也通常被標記得壹清贰楚。你可能會莫名收到來自陌生人的短信或者郵件，對方能夠明確指出你學校和班級，或者你的工作單位和家庭住址，然後在末尾放上壹段由“你”出演的性愛視頻。
對於身處其中的受害者而言，這件事情最可怕之處在於，你不知道平日裡衣冠楚楚的朋友們，會不會就是這23萬人中的壹員；你不知道之前發布在社交媒體的照片會不會已經被他們保存下來，然後替換到那些淫穢不堪的場景當中。
你不知道他們會把這些照片發給誰，如何對著這些東西對你品頭論足，身邊又有多少人看過這些內容。
你只知道，這個世界有壹雙無形的眼睛，在不為人知處默默的注視著、覬覦著你。
只是壹場游戲
受害者們自然不會緘口不言。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: