Deepfake性犯罪激增:AI可能创造新一代的施虐者?
尾声：
技术是工具，却不是答案
导向真实犯罪的可能性是深度伪造性犯罪引发如此大范围恐慌的原因。维也纳大学哲学系博士后凯斯·雷蒙·哈里斯（Keith Raymond Harris）详细分析了这类内容如何让人们产生心理联想。“当学生对同学进行深度伪造时，这可能会改变他们对对象的看法，并在现实生活中造成进一步的不尊重、骚扰甚至虐待。当这些对特定女性产生的心理联想，导致对所有女性的联想时，偏见就会进一步强化。”
女性遭受相关“报复性色情”的后续遭遇也值得关注。在 BBC 一档名为“她说”（The She Word）节目中， 两名津巴布韦女性讲述了她们成为色情报复受害者的故事——一人被剥夺了家庭关系，因此无法完成学业；另一人则失去了工作。在印度，一名记者曾为一个八岁女孩伸张正义后，遭到了深度伪造色情诽谤。这些报道散见于多个国家。此外，还有不少女性受访者称，在成为这些网络性暴力目标后，她们很难维持或找到工作。
图片：ic photo.
目前的困境在于，技术发展的速度已经远远超过立法的速度。以韩国为例，现有法律对出于传播目的制作深度伪造内容的人、以及试图通过传播这些内容来获取经济利益的人都有一定的惩治条例，但目前并没有相关法律禁止购买、存储或观看深度伪造的内容。调查人员需要获得法院批准才能用秘密身份进入深度伪造聊天室，而且，他们只是在收到未成年人遭到性虐待的举报后才能进行这类调查。这个过程也可能很慢。
“你在假期发现了一个聊天室，但等你得到法院批准后，它已经消失了，”韩国国家警察局网络犯罪高级调查员咸永玉在接受《纽约时报》采访时表示。
杜伦大学法学教授、图像滥用专家克莱尔·麦克格林（Clare McGlynn）这些年也在与同行持续呼吁修改图像犯罪相关法律，“但我们基本上是在向虚空呐喊”。麦克格林解释说，这些年，政府方面一直认为虚假图片和影像资料的危害不大，没有真正与受害者交谈。立法的逻辑更关注性行为是否真实发生，而不太在意受害者的感受。“这些网络性犯罪行为没有被认真对待，人们还是没有意识到这种伤害可能是深远且毁灭性的——它不会突然发生，你也许可以试着克服它，继续生活，但它总有可能重新出现在网上。”
麦克格林还指出，现有法案的设定大都忽略了平台的责任。尽管平台方表示对相关深度伪造内容采取“零容忍”，但在一份深度伪造图像或视频被删除前，已经有数千万次浏览量时，这样的立场就显得有些“空洞”。
回到今年初泰勒·斯威夫特的遭遇。当时平台方以“优先考虑安全”为名，短暂屏蔽了全平台关于“Taylor Swift”的搜索结果，暂时让她“隐形”。这一举动被认为传递了一个危险的信号：“如果当今世上最有影响力的女性之一都必须要在网上消失，才能保证安全，那这对其他人而言意味着什么？”
当互联网技术迭代不断将人类整体带向一个更加互联互通的未来时，从“红药丸”的出现到深度伪造性犯罪的激增，这似乎在凸显另一种相悖的趋势。正如“脸书”创办人马克·扎克伯格的妹妹多娜·扎克伯格所看到的另一面：这可能逐渐加深对女性边界的侵犯。两性平等如何终结这一世界上最古老的偏见？显然技术本身不会自然而然提供答案。
[加西网正招聘多名全职sales 待遇优]
好新闻没人评论怎么行，我来说几句
技术是工具，却不是答案
导向真实犯罪的可能性是深度伪造性犯罪引发如此大范围恐慌的原因。维也纳大学哲学系博士后凯斯·雷蒙·哈里斯（Keith Raymond Harris）详细分析了这类内容如何让人们产生心理联想。“当学生对同学进行深度伪造时，这可能会改变他们对对象的看法，并在现实生活中造成进一步的不尊重、骚扰甚至虐待。当这些对特定女性产生的心理联想，导致对所有女性的联想时，偏见就会进一步强化。”
女性遭受相关“报复性色情”的后续遭遇也值得关注。在 BBC 一档名为“她说”（The She Word）节目中， 两名津巴布韦女性讲述了她们成为色情报复受害者的故事——一人被剥夺了家庭关系，因此无法完成学业；另一人则失去了工作。在印度，一名记者曾为一个八岁女孩伸张正义后，遭到了深度伪造色情诽谤。这些报道散见于多个国家。此外，还有不少女性受访者称，在成为这些网络性暴力目标后，她们很难维持或找到工作。
图片：ic photo.
目前的困境在于，技术发展的速度已经远远超过立法的速度。以韩国为例，现有法律对出于传播目的制作深度伪造内容的人、以及试图通过传播这些内容来获取经济利益的人都有一定的惩治条例，但目前并没有相关法律禁止购买、存储或观看深度伪造的内容。调查人员需要获得法院批准才能用秘密身份进入深度伪造聊天室，而且，他们只是在收到未成年人遭到性虐待的举报后才能进行这类调查。这个过程也可能很慢。
“你在假期发现了一个聊天室，但等你得到法院批准后，它已经消失了，”韩国国家警察局网络犯罪高级调查员咸永玉在接受《纽约时报》采访时表示。
杜伦大学法学教授、图像滥用专家克莱尔·麦克格林（Clare McGlynn）这些年也在与同行持续呼吁修改图像犯罪相关法律，“但我们基本上是在向虚空呐喊”。麦克格林解释说，这些年，政府方面一直认为虚假图片和影像资料的危害不大，没有真正与受害者交谈。立法的逻辑更关注性行为是否真实发生，而不太在意受害者的感受。“这些网络性犯罪行为没有被认真对待，人们还是没有意识到这种伤害可能是深远且毁灭性的——它不会突然发生，你也许可以试着克服它，继续生活，但它总有可能重新出现在网上。”
麦克格林还指出，现有法案的设定大都忽略了平台的责任。尽管平台方表示对相关深度伪造内容采取“零容忍”，但在一份深度伪造图像或视频被删除前，已经有数千万次浏览量时，这样的立场就显得有些“空洞”。
回到今年初泰勒·斯威夫特的遭遇。当时平台方以“优先考虑安全”为名，短暂屏蔽了全平台关于“Taylor Swift”的搜索结果，暂时让她“隐形”。这一举动被认为传递了一个危险的信号：“如果当今世上最有影响力的女性之一都必须要在网上消失，才能保证安全，那这对其他人而言意味着什么？”
当互联网技术迭代不断将人类整体带向一个更加互联互通的未来时，从“红药丸”的出现到深度伪造性犯罪的激增，这似乎在凸显另一种相悖的趋势。正如“脸书”创办人马克·扎克伯格的妹妹多娜·扎克伯格所看到的另一面：这可能逐渐加深对女性边界的侵犯。两性平等如何终结这一世界上最古老的偏见？显然技术本身不会自然而然提供答案。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
推荐: