AI生成合成内容9月起须明确标识
视频片段后造假。继AI“换脸”后,AI“盗声”再度席卷社交平台。
面对AI技术的滥用,业内专家建议,内容发布者和AI服务提供者应压实提供标识义务,内容平台也应积极拦截审核可疑视频内容,从技术上提高真伪鉴别能力。
冠军“带货” 声音皆为克隆
“我是你们的婵宝,今天有事请大家帮忙,婵妹就想帮助妈妈,让家里生活过得好一点,今天让妈妈先拿出300单老家的土鸡蛋给大家放福利……”近日,短视频平台出现多个“全红婵带货”视频,画面中,除少量赛后采访片段外,其余均为养鸡场场景,但声音听起来很像全红婵。
这些视频附带的土鸡蛋链接已售出超2.1万单,大量消费者表示是出于对奥运冠军的信任下单。“拍了,婵宝我支持你!”“刚下完一单,谢谢为国争光”。
“我妹妹在训练基地,她怎么卖鸡蛋?那是AI声音,全平台一大堆这样的切片。”近日,全红婵的哥哥全进华在直播中回应。全进华透露,此前家人声音已被AI克隆卖蜂蜜,“之前卖蜂蜜的都还在告,现在告都告不过来”。

孙颖莎和王楚钦的声音近日也遭遇类似盗取仿冒,其采访画面被篡改,配音虚构“我是莎莎,我为婵宝家农家土鸡蛋代言”“我是王楚钦,昨天收到婵妹私信,说他们家土鸡蛋大丰收”等情节。
除了奥运冠军外,AI“盗声”也在批量制造明星带货。在某短剧平台插播的面膜广告中,“刘涛”“舒淇”“张柏芝”等争相喊出夸张台词。一名互联网安全专家表示,这一广告高度疑似AI克隆声音后进行内容篡改。记者对比发现,部分片段实为截取自其他采访。
“盗声”教程 竟在网上售卖
名人声音被AI频频克隆,一方面是因为名人音源丰富,比较容易获取,加上商业价值高,更容易被侵权;另一方面,是随着大模型技术的发展,AI语音合成的门槛降低。据统计,仅6月以来,行业就有多款一站式AI语音合成软件发布。
上述互联网安全专家告诉记者,AI克隆声音的原理,是通过深度学习算法,从采集的声音样本中提取频率、音色、声调等关键特征,再将这些特征记录进行合成。如果配上其他视频画面,就可以完成整套移花接木。
记者调查发现,电商平台上有大量AI声音克隆工具教程以0.5元至400元不等的价格售卖,一份售价4.88元标榜“1分钟素材克隆完美声音”的教程声称,只需要上传声音素材、输入模拟文本、选择声音模型再点击转化即可,转化后的声音还能在同一软件上随意剪切拼接。
还有人直接提供明星声音代克隆服务。“明星声音音色克隆,发给我你的文案,什么内容都可以。”网友“莫妮卡”表示,国内明星可以任意挑选,只需要提供明星姓名和想要听到的内容就行,“100字以内4.99元,100字以上根据内容长度收费。”

[物价飞涨的时候 这样省钱购物很爽]
好新闻没人评论怎么行,我来说几句
全红婵、孙颖莎、王楚钦等奥运冠军都在卖鸡蛋?原来是AI克隆其声音并截取其他面对AI技术的滥用,业内专家建议,内容发布者和AI服务提供者应压实提供标识义务,内容平台也应积极拦截审核可疑视频内容,从技术上提高真伪鉴别能力。
冠军“带货” 声音皆为克隆
“我是你们的婵宝,今天有事请大家帮忙,婵妹就想帮助妈妈,让家里生活过得好一点,今天让妈妈先拿出300单老家的土鸡蛋给大家放福利……”近日,短视频平台出现多个“全红婵带货”视频,画面中,除少量赛后采访片段外,其余均为养鸡场场景,但声音听起来很像全红婵。
这些视频附带的土鸡蛋链接已售出超2.1万单,大量消费者表示是出于对奥运冠军的信任下单。“拍了,婵宝我支持你!”“刚下完一单,谢谢为国争光”。
“我妹妹在训练基地,她怎么卖鸡蛋?那是AI声音,全平台一大堆这样的切片。”近日,全红婵的哥哥全进华在直播中回应。全进华透露,此前家人声音已被AI克隆卖蜂蜜,“之前卖蜂蜜的都还在告,现在告都告不过来”。

孙颖莎和王楚钦的声音近日也遭遇类似盗取仿冒,其采访画面被篡改,配音虚构“我是莎莎,我为婵宝家农家土鸡蛋代言”“我是王楚钦,昨天收到婵妹私信,说他们家土鸡蛋大丰收”等情节。
除了奥运冠军外,AI“盗声”也在批量制造明星带货。在某短剧平台插播的面膜广告中,“刘涛”“舒淇”“张柏芝”等争相喊出夸张台词。一名互联网安全专家表示,这一广告高度疑似AI克隆声音后进行内容篡改。记者对比发现,部分片段实为截取自其他采访。
“盗声”教程 竟在网上售卖
名人声音被AI频频克隆,一方面是因为名人音源丰富,比较容易获取,加上商业价值高,更容易被侵权;另一方面,是随着大模型技术的发展,AI语音合成的门槛降低。据统计,仅6月以来,行业就有多款一站式AI语音合成软件发布。
上述互联网安全专家告诉记者,AI克隆声音的原理,是通过深度学习算法,从采集的声音样本中提取频率、音色、声调等关键特征,再将这些特征记录进行合成。如果配上其他视频画面,就可以完成整套移花接木。
记者调查发现,电商平台上有大量AI声音克隆工具教程以0.5元至400元不等的价格售卖,一份售价4.88元标榜“1分钟素材克隆完美声音”的教程声称,只需要上传声音素材、输入模拟文本、选择声音模型再点击转化即可,转化后的声音还能在同一软件上随意剪切拼接。
还有人直接提供明星声音代克隆服务。“明星声音音色克隆,发给我你的文案,什么内容都可以。”网友“莫妮卡”表示,国内明星可以任意挑选,只需要提供明星姓名和想要听到的内容就行,“100字以内4.99元,100字以上根据内容长度收费。”

[物价飞涨的时候 这样省钱购物很爽]
分享: |
注: | 在此页阅读全文 |
推荐: