AI生成合成内容9月起须明确标识

全红婵、孙颖莎、王楚钦等奥运冠军都在卖鸡蛋?原来是AI克隆其声音并截取其他视频片段后造假。继AI“换脸”后,AI“盗声”再度席卷社交平台。


面对AI技术的滥用,业内专家建议,内容发布者和AI服务提供者应压实提供标识义务,内容平台也应积极拦截审核可疑视频内容,从技术上提高真伪鉴别能力。

冠军“带货” 声音皆为克隆

“我是你们的婵宝,今天有事请大家帮忙,婵妹就想帮助妈妈,让家里生活过得好一点,今天让妈妈先拿出300单老家的土鸡蛋给大家放福利……”近日,短视频平台出现多个“全红婵带货”视频,画面中,除少量赛后采访片段外,其余均为养鸡场场景,但声音听起来很像全红婵。

这些视频附带的土鸡蛋链接已售出超2.1万单,大量消费者表示是出于对奥运冠军的信任下单。“拍了,婵宝我支持你!”“刚下完一单,谢谢为国争光”。

“我妹妹在训练基地,她怎么卖鸡蛋?那是AI声音,全平台一大堆这样的切片。”近日,全红婵的哥哥全进华在直播中回应。全进华透露,此前家人声音已被AI克隆卖蜂蜜,“之前卖蜂蜜的都还在告,现在告都告不过来”。



孙颖莎和王楚钦的声音近日也遭遇类似盗取仿冒,其采访画面被篡改,配音虚构“我是莎莎,我为婵宝家农家土鸡蛋代言”“我是王楚钦,昨天收到婵妹私信,说他们家土鸡蛋大丰收”等情节。

除了奥运冠军外,AI“盗声”也在批量制造明星带货。在某短剧平台插播的面膜广告中,“刘涛”“舒淇”“张柏芝”等争相喊出夸张台词。一名互联网安全专家表示,这一广告高度疑似AI克隆声音后进行内容篡改。记者对比发现,部分片段实为截取自其他采访。

“盗声”教程 竟在网上售卖


名人声音被AI频频克隆,一方面是因为名人音源丰富,比较容易获取,加上商业价值高,更容易被侵权;另一方面,是随着大模型技术的发展,AI语音合成的门槛降低。据统计,仅6月以来,行业就有多款一站式AI语音合成软件发布。

上述互联网安全专家告诉记者,AI克隆声音的原理,是通过深度学习算法,从采集的声音样本中提取频率、音色、声调等关键特征,再将这些特征记录进行合成。如果配上其他视频画面,就可以完成整套移花接木。

记者调查发现,电商平台上有大量AI声音克隆工具教程以0.5元至400元不等的价格售卖,一份售价4.88元标榜“1分钟素材克隆完美声音”的教程声称,只需要上传声音素材、输入模拟文本、选择声音模型再点击转化即可,转化后的声音还能在同一软件上随意剪切拼接。

还有人直接提供明星声音代克隆服务。“明星声音音色克隆,发给我你的文案,什么内容都可以。”网友“莫妮卡”表示,国内明星可以任意挑选,只需要提供明星姓名和想要听到的内容就行,“100字以内4.99元,100字以上根据内容长度收费。”



[物价飞涨的时候 这样省钱购物很爽]
好新闻没人评论怎么行,我来说几句
上一页12下一页
注:
  • 新闻来源于其它媒体,内容不代表本站立场!
  • 在此页阅读全文
     推荐:

    意见

    当前评论目前还没有任何评论,欢迎您发表您的看法。
    发表评论
    您的评论 *: 
    安全校验码 *:  请在此处输入图片中的数字
    The Captcha image  (请在此处输入图片中的数字)



    Copyright © 温哥华网, all rights are reserved.

    温哥华网为北美中文网传媒集团旗下网站