[春節專欄] 春節前必做:給父母看這篇防騙指南
但如今視頻方面可能還有些門檻，但音頻想仿造，門檻實在太低了，3-5秒鍾足矣。
不怕賊偷，就怕賊惦記，如果你已經被惦記上了，然後他用虛擬運營商號碼給你打電話，你接起來，那邊不說話，或者故意說錯話。
比如“我是某平台清洗空調的，約好了時間，怎麼家裡沒人啊。”然後你壹臉迷茫，什麼清洗空調，我沒約過啊。或者電話打來，說：“你下來挪車，把我車擋住了。”然後你也壹臉迷茫，我家車停在車位裡呢，怎麼可能擋住別人。就在和對方解釋時，語音數據就已經超過10秒了，足夠用了。
視頻數據別看還沒有很低的門檻，但生成式技術的進步，不久之後甚至可以通過壹個人幾張靜態的照片，AI可以給我們腦補出這個人演講、跑步、生病的動態片段。
到時候騙子說不定也用不著提前錄視頻了，直接撥通微信視頻電話，實時生成高質量的變臉、變聲。於是父母更不會懷疑了，你想，真人在屏幕裡和你壹問壹答，怎麼可能是假的？
今天雖然實時生成視頻還不行，但音頻已經可以了。
於是，在領導與下屬、男朋友和女朋友、名人和粉絲之間、投資圈裡的殺豬盤等等就會層出不窮。
前兩年，靳東加你微信好友，曾經是直播界的壹個梗，就是在直播打賞上頭後，中老年女性被詐騙犯利用了。
而且即將成熟的agent智能體也會被用在更多樣性的詐騙中，讓本來不具備編程和網絡技術的詐騙犯也能大施拳腳。甚至讓他們可以不用只騙和自己母語壹致的人。agent可以從目標分析開始選定受害對象，對其做畫像分析和針對性的個性化釣魚劇情設計，然後生成多模態（語音、視頻等等）的各種素材和詐騙方案。
04
個人防范，步驟多很麻煩
你要真想防范，可能步驟還得再往前提。
也就是所有網絡身份，都用筆名、化名。包括京東、淘寶的快遞，比如我現在都改叫“香蕉樹上看你笑”。
私下親朋好友溝通時，只用私人手機號和微信號，而工作、外賣、快遞、辦手續都用另外壹個手機號和微信號。截然分開就不容易被分析出人物的關聯。父母關心則亂的軟肋就不會被利用上。
但說到底，深偽視頻是無法阻擋的，之後壹定會越來越逼真，制造成本也會越來越低。識別和防范技巧只適用於極少數的達人，因為它要求當事人特別不怕麻煩，隨時保持警惕。而99.9%的人是做不到的，哪怕知道有好處也懶得做。
05
大平台和政府監管
於是，想防范不斷升級的AI欺詐，壹是要靠大平台推出的內置在軟件或者硬件上的防范，贰是要靠政府及時更新監管條款。
今天有些手機操作系統自帶可以識別AI合成聲的功能，打開後，只要是AI合成語音打來電話，界面就會標紅，告訴你：此聲音來自AI合成，請警惕詐騙。
當然，今後也可以對具體內容做鑒別，提示這些語音內容可能包含詐騙。在我們聽對方說話的時候，你手機上會自動降低對方音量，然後提高本地提示音，告訴你：這通電話內容高度疑似詐騙。
此外還得指望著國家法律法規不斷更新，比如所有生成式功能的平台和軟件都需要備案、可追溯、有標簽等等。
雖然不法分子最後會想辦法自己部署服務器用於訓練，但起碼防住了那些詐騙啟動資金小於1000萬的騙子們。
大平台和政府監管對生成式AI及時更新防范措施，才是防止AI欺詐的絕對主力。
高效的監管又有前提，就是在生成式AI的發展中，不能只發展生成式的技術，也要發展AI識別上的技術。這方面比較有代表性的活動是2024年上海舉辦的全球DeepFake（深度偽造技術）攻防挑戰賽。
其實識別上做到90分的水平，比生成上做到90分要容易得多，因為我們知道怎麼生成全部細節，那麼對於生成後的內容有哪些數據特征、算法特征，都是識別算法很好的提示。
今後這些技術內置在微信、飛書裡，才會把AI詐騙的渠道大部分堵死，我們普通人也就不用費盡心思學識別技巧了。
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
不怕賊偷，就怕賊惦記，如果你已經被惦記上了，然後他用虛擬運營商號碼給你打電話，你接起來，那邊不說話，或者故意說錯話。
比如“我是某平台清洗空調的，約好了時間，怎麼家裡沒人啊。”然後你壹臉迷茫，什麼清洗空調，我沒約過啊。或者電話打來，說：“你下來挪車，把我車擋住了。”然後你也壹臉迷茫，我家車停在車位裡呢，怎麼可能擋住別人。就在和對方解釋時，語音數據就已經超過10秒了，足夠用了。
視頻數據別看還沒有很低的門檻，但生成式技術的進步，不久之後甚至可以通過壹個人幾張靜態的照片，AI可以給我們腦補出這個人演講、跑步、生病的動態片段。
到時候騙子說不定也用不著提前錄視頻了，直接撥通微信視頻電話，實時生成高質量的變臉、變聲。於是父母更不會懷疑了，你想，真人在屏幕裡和你壹問壹答，怎麼可能是假的？
今天雖然實時生成視頻還不行，但音頻已經可以了。
於是，在領導與下屬、男朋友和女朋友、名人和粉絲之間、投資圈裡的殺豬盤等等就會層出不窮。
前兩年，靳東加你微信好友，曾經是直播界的壹個梗，就是在直播打賞上頭後，中老年女性被詐騙犯利用了。
而且即將成熟的agent智能體也會被用在更多樣性的詐騙中，讓本來不具備編程和網絡技術的詐騙犯也能大施拳腳。甚至讓他們可以不用只騙和自己母語壹致的人。agent可以從目標分析開始選定受害對象，對其做畫像分析和針對性的個性化釣魚劇情設計，然後生成多模態（語音、視頻等等）的各種素材和詐騙方案。
04
個人防范，步驟多很麻煩
你要真想防范，可能步驟還得再往前提。
也就是所有網絡身份，都用筆名、化名。包括京東、淘寶的快遞，比如我現在都改叫“香蕉樹上看你笑”。
私下親朋好友溝通時，只用私人手機號和微信號，而工作、外賣、快遞、辦手續都用另外壹個手機號和微信號。截然分開就不容易被分析出人物的關聯。父母關心則亂的軟肋就不會被利用上。
但說到底，深偽視頻是無法阻擋的，之後壹定會越來越逼真，制造成本也會越來越低。識別和防范技巧只適用於極少數的達人，因為它要求當事人特別不怕麻煩，隨時保持警惕。而99.9%的人是做不到的，哪怕知道有好處也懶得做。
05
大平台和政府監管
於是，想防范不斷升級的AI欺詐，壹是要靠大平台推出的內置在軟件或者硬件上的防范，贰是要靠政府及時更新監管條款。
今天有些手機操作系統自帶可以識別AI合成聲的功能，打開後，只要是AI合成語音打來電話，界面就會標紅，告訴你：此聲音來自AI合成，請警惕詐騙。
當然，今後也可以對具體內容做鑒別，提示這些語音內容可能包含詐騙。在我們聽對方說話的時候，你手機上會自動降低對方音量，然後提高本地提示音，告訴你：這通電話內容高度疑似詐騙。
此外還得指望著國家法律法規不斷更新，比如所有生成式功能的平台和軟件都需要備案、可追溯、有標簽等等。
雖然不法分子最後會想辦法自己部署服務器用於訓練，但起碼防住了那些詐騙啟動資金小於1000萬的騙子們。
大平台和政府監管對生成式AI及時更新防范措施，才是防止AI欺詐的絕對主力。
高效的監管又有前提，就是在生成式AI的發展中，不能只發展生成式的技術，也要發展AI識別上的技術。這方面比較有代表性的活動是2024年上海舉辦的全球DeepFake（深度偽造技術）攻防挑戰賽。
其實識別上做到90分的水平，比生成上做到90分要容易得多，因為我們知道怎麼生成全部細節，那麼對於生成後的內容有哪些數據特征、算法特征，都是識別算法很好的提示。
今後這些技術內置在微信、飛書裡，才會把AI詐騙的渠道大部分堵死，我們普通人也就不用費盡心思學識別技巧了。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: