[春节专栏] 春节前必做:给父母看这篇防骗指南
但如今视频方面可能还有些门槛，但音频想仿造，门槛实在太低了，3-5秒钟足矣。
不怕贼偷，就怕贼惦记，如果你已经被惦记上了，然后他用虚拟运营商号码给你打电话，你接起来，那边不说话，或者故意说错话。
比如“我是某平台清洗空调的，约好了时间，怎么家里没人啊。”然后你一脸迷茫，什么清洗空调，我没约过啊。或者电话打来，说：“你下来挪车，把我车挡住了。”然后你也一脸迷茫，我家车停在车位里呢，怎么可能挡住别人。就在和对方解释时，语音数据就已经超过10秒了，足够用了。
视频数据别看还没有很低的门槛，但生成式技术的进步，不久之后甚至可以通过一个人几张静态的照片，AI可以给我们脑补出这个人演讲、跑步、生病的动态片段。
到时候骗子说不定也用不着提前录视频了，直接拨通微信视频电话，实时生成高质量的变脸、变声。于是父母更不会怀疑了，你想，真人在屏幕里和你一问一答，怎么可能是假的？
今天虽然实时生成视频还不行，但音频已经可以了。
于是，在领导与下属、男朋友和女朋友、名人和粉丝之间、投资圈里的杀猪盘等等就会层出不穷。
前两年，靳东加你微信好友，曾经是直播界的一个梗，就是在直播打赏上头后，中老年女性被诈骗犯利用了。
而且即将成熟的agent智能体也会被用在更多样性的诈骗中，让本来不具备编程和网络技术的诈骗犯也能大施拳脚。甚至让他们可以不用只骗和自己母语一致的人。agent可以从目标分析开始选定受害对象，对其做画像分析和针对性的个性化钓鱼剧情设计，然后生成多模态（语音、视频等等）的各种素材和诈骗方案。
04
个人防范，步骤多很麻烦
你要真想防范，可能步骤还得再往前提。
也就是所有网络身份，都用笔名、化名。包括京东、淘宝的快递，比如我现在都改叫“香蕉树上看你笑”。
私下亲朋好友沟通时，只用私人手机号和微信号，而工作、外卖、快递、办手续都用另外一个手机号和微信号。截然分开就不容易被分析出人物的关联。父母关心则乱的软肋就不会被利用上。
但说到底，深伪视频是无法阻挡的，之后一定会越来越逼真，制造成本也会越来越低。识别和防范技巧只适用于极少数的达人，因为它要求当事人特别不怕麻烦，随时保持警惕。而99.9%的人是做不到的，哪怕知道有好处也懒得做。
05
大平台和政府监管
于是，想防范不断升级的AI欺诈，一是要靠大平台推出的内置在软件或者硬件上的防范，二是要靠政府及时更新监管条款。
今天有些手机操作系统自带可以识别AI合成声的功能，打开后，只要是AI合成语音打来电话，界面就会标红，告诉你：此声音来自AI合成，请警惕诈骗。
当然，今后也可以对具体内容做鉴别，提示这些语音内容可能包含诈骗。在我们听对方说话的时候，你手机上会自动降低对方音量，然后提高本地提示音，告诉你：这通电话内容高度疑似诈骗。
此外还得指望着国家法律法规不断更新，比如所有生成式功能的平台和软件都需要备案、可追溯、有标签等等。
虽然不法分子最后会想办法自己部署服务器用于训练，但起码防住了那些诈骗启动资金小于1000万的骗子们。
大平台和政府监管对生成式AI及时更新防范措施，才是防止AI欺诈的绝对主力。
高效的监管又有前提，就是在生成式AI的发展中，不能只发展生成式的技术，也要发展AI识别上的技术。这方面比较有代表性的活动是2024年上海举办的全球DeepFake（深度伪造技术）攻防挑战赛。
其实识别上做到90分的水平，比生成上做到90分要容易得多，因为我们知道怎么生成全部细节，那么对于生成后的内容有哪些数据特征、算法特征，都是识别算法很好的提示。
今后这些技术内置在微信、飞书里，才会把AI诈骗的渠道大部分堵死，我们普通人也就不用费尽心思学识别技巧了。
[加西网正招聘多名全职sales 待遇优]
这条新闻还没有人评论喔，等着您的高见呢
不怕贼偷，就怕贼惦记，如果你已经被惦记上了，然后他用虚拟运营商号码给你打电话，你接起来，那边不说话，或者故意说错话。
比如“我是某平台清洗空调的，约好了时间，怎么家里没人啊。”然后你一脸迷茫，什么清洗空调，我没约过啊。或者电话打来，说：“你下来挪车，把我车挡住了。”然后你也一脸迷茫，我家车停在车位里呢，怎么可能挡住别人。就在和对方解释时，语音数据就已经超过10秒了，足够用了。
视频数据别看还没有很低的门槛，但生成式技术的进步，不久之后甚至可以通过一个人几张静态的照片，AI可以给我们脑补出这个人演讲、跑步、生病的动态片段。
到时候骗子说不定也用不着提前录视频了，直接拨通微信视频电话，实时生成高质量的变脸、变声。于是父母更不会怀疑了，你想，真人在屏幕里和你一问一答，怎么可能是假的？
今天虽然实时生成视频还不行，但音频已经可以了。
于是，在领导与下属、男朋友和女朋友、名人和粉丝之间、投资圈里的杀猪盘等等就会层出不穷。
前两年，靳东加你微信好友，曾经是直播界的一个梗，就是在直播打赏上头后，中老年女性被诈骗犯利用了。
而且即将成熟的agent智能体也会被用在更多样性的诈骗中，让本来不具备编程和网络技术的诈骗犯也能大施拳脚。甚至让他们可以不用只骗和自己母语一致的人。agent可以从目标分析开始选定受害对象，对其做画像分析和针对性的个性化钓鱼剧情设计，然后生成多模态（语音、视频等等）的各种素材和诈骗方案。
04
个人防范，步骤多很麻烦
你要真想防范，可能步骤还得再往前提。
也就是所有网络身份，都用笔名、化名。包括京东、淘宝的快递，比如我现在都改叫“香蕉树上看你笑”。
私下亲朋好友沟通时，只用私人手机号和微信号，而工作、外卖、快递、办手续都用另外一个手机号和微信号。截然分开就不容易被分析出人物的关联。父母关心则乱的软肋就不会被利用上。
但说到底，深伪视频是无法阻挡的，之后一定会越来越逼真，制造成本也会越来越低。识别和防范技巧只适用于极少数的达人，因为它要求当事人特别不怕麻烦，随时保持警惕。而99.9%的人是做不到的，哪怕知道有好处也懒得做。
05
大平台和政府监管
于是，想防范不断升级的AI欺诈，一是要靠大平台推出的内置在软件或者硬件上的防范，二是要靠政府及时更新监管条款。
今天有些手机操作系统自带可以识别AI合成声的功能，打开后，只要是AI合成语音打来电话，界面就会标红，告诉你：此声音来自AI合成，请警惕诈骗。
当然，今后也可以对具体内容做鉴别，提示这些语音内容可能包含诈骗。在我们听对方说话的时候，你手机上会自动降低对方音量，然后提高本地提示音，告诉你：这通电话内容高度疑似诈骗。
此外还得指望着国家法律法规不断更新，比如所有生成式功能的平台和软件都需要备案、可追溯、有标签等等。
虽然不法分子最后会想办法自己部署服务器用于训练，但起码防住了那些诈骗启动资金小于1000万的骗子们。
大平台和政府监管对生成式AI及时更新防范措施，才是防止AI欺诈的绝对主力。
高效的监管又有前提，就是在生成式AI的发展中，不能只发展生成式的技术，也要发展AI识别上的技术。这方面比较有代表性的活动是2024年上海举办的全球DeepFake（深度伪造技术）攻防挑战赛。
其实识别上做到90分的水平，比生成上做到90分要容易得多，因为我们知道怎么生成全部细节，那么对于生成后的内容有哪些数据特征、算法特征，都是识别算法很好的提示。
今后这些技术内置在微信、飞书里，才会把AI诈骗的渠道大部分堵死，我们普通人也就不用费尽心思学识别技巧了。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| Note: | _VIEW_NEWS_FULL |
| 延伸阅读 | More... |
推荐: