新聞 
AI"大學生"騙百萬美金:105個學生,只有15個真人
AI"大學生"騙百萬美金:105個學生,只有15個真人AI"大學生"騙百萬美金:105個學生,只有15個真人
圖源：AI生成
傳統電詐中，詐騙分子集中圍獵“壹老壹少”的情況比較常見，面對完全可以以假亂真的AI詐騙，年輕人也和老年人壹樣沒有招架之力。
利用換臉和換聲技術，AI 化身“虛擬戀人”，用精心設計的話術和人設，把受害人迷得暈頭轉向，最後露出“騙錢”的真面目，類似網絡交友詐騙案例屢見不鮮。
據《中國青年報》報道，2023年，寶媽王枚（化名）在境外求學期間通過社交平台結識偽裝成房東的男性網友，對方利用AI換臉換聲技術獲取其信任並發展戀愛關系。隨後以投資加密貨幣為名誘騙其小額試水獲利，逐步誘導加大投入，致使王枚抵押房產、網貸累計損失約200萬元，最終提現受阻發現被騙。
從名人到普羅大眾，AI 詐騙正無孔不入。
03
AI黑產已成產業鏈
AI 騙局在現實中肆意橫行，而在這背後，壹個龐大且復雜的 AI 黑產產業鏈正悄然成型。
在電影《孤注壹擲》中，大型詐騙集團由成百上千名詐騙分子組成，集團內部分工明確。如今，AI技術普及讓詐騙門檻大幅降低，壹兩名詐騙分子就可以展開個人作案，AI技術承擔了從目標篩選到身份偽裝的壹系列工作。
幾年前“假靳東”進行情感詐騙時還需要有真人來扮演，可現在AI生成的虛擬人物不僅更逼真，而且還更懂老年人的需求。
事實上，AI黑產由來已久。
早在2017年，壹個名為“deepfakes”的 Reddit 用戶在社交網站上發布了斯嘉麗.約翰遜等女演員的換臉視頻，使得“Deepfake”成為了 “AI 換臉”的代名詞。
模型公布後引發轟動。網絡上隨即開始出現大量使用Deepfake合成的色情視頻，其中不少視頻女主角的人臉被替換為斯嘉麗·約翰遜、蓋爾·加朵等大牌女星。
這給女星們造成了極其惡劣的負面影響，最終在粉絲的譴責中，視頻被刪除，相關論壇也被封禁。
但由於相關技術的源代碼都免費開放，很快，壹系列AI換臉軟件在國內風生水起，包括ZAO、去演、顏技和AI換臉等。
在號稱“僅需壹張照片，出演天下好戲”的ZAO，只需壹張正面照，就能生成拾分真實且靈動的最長可達壹分鍾的視頻，吸引了大量用戶關注。但很快，ZAO的霸王條款和隱私泄露等問題遭到人們質疑，其發行公司陌陌也隨即遭到工信部約談。
雖然AI換臉、AI脫衣以及AI語音和視頻這些技術早已有之，但隨著ChatGPT的火熱，這些技術再次回到大家的視野，甚至變得更加逼真，更加低門檻。
更讓人擔憂的是，AI詐騙已經形成了“生成-傳播-洗錢”的完整產業鏈。
上游技術提供者通過暗網兜售“AI換臉套餐”，價格從幾百元到數萬元不等。中游推廣者則利用非法獲取的個人信息庫，通過短信、社交軟件精准投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平台等渠道轉移資金。
除此以外，AI詐騙也在越來越普遍。
在壹起山東警方破獲的AI詐騙案中。受騙人在收到冒充他的親戚的信息後，還收到了他打來的視頻，盡管在7秒的視頻中連線有些許卡頓，但是聲音和樣貌都讓受騙人確認了對方的身份，進而向對方賬戶轉賬。
近壹段時間以來，這種案例屢見不鮮。福州某科技公司法定代表人郭先生，也因為AI偽造的微信視頻，在短短拾分鍾內，就被騙了430萬。
AI的進化史，也是壹塊人性的試金石。當“賽博學生”以公益之名掠奪教育資源，當“虛擬戀人”以溫情為餌榨幹受害者積蓄，技術的雙刃性從未如此鋒利。
[加西網正招聘多名全職sales 待遇優]
這條新聞還沒有人評論喔，等著您的高見呢
傳統電詐中，詐騙分子集中圍獵“壹老壹少”的情況比較常見，面對完全可以以假亂真的AI詐騙，年輕人也和老年人壹樣沒有招架之力。
利用換臉和換聲技術，AI 化身“虛擬戀人”，用精心設計的話術和人設，把受害人迷得暈頭轉向，最後露出“騙錢”的真面目，類似網絡交友詐騙案例屢見不鮮。
據《中國青年報》報道，2023年，寶媽王枚（化名）在境外求學期間通過社交平台結識偽裝成房東的男性網友，對方利用AI換臉換聲技術獲取其信任並發展戀愛關系。隨後以投資加密貨幣為名誘騙其小額試水獲利，逐步誘導加大投入，致使王枚抵押房產、網貸累計損失約200萬元，最終提現受阻發現被騙。
從名人到普羅大眾，AI 詐騙正無孔不入。
03
AI黑產已成產業鏈
AI 騙局在現實中肆意橫行，而在這背後，壹個龐大且復雜的 AI 黑產產業鏈正悄然成型。
在電影《孤注壹擲》中，大型詐騙集團由成百上千名詐騙分子組成，集團內部分工明確。如今，AI技術普及讓詐騙門檻大幅降低，壹兩名詐騙分子就可以展開個人作案，AI技術承擔了從目標篩選到身份偽裝的壹系列工作。
幾年前“假靳東”進行情感詐騙時還需要有真人來扮演，可現在AI生成的虛擬人物不僅更逼真，而且還更懂老年人的需求。
事實上，AI黑產由來已久。
早在2017年，壹個名為“deepfakes”的 Reddit 用戶在社交網站上發布了斯嘉麗.約翰遜等女演員的換臉視頻，使得“Deepfake”成為了 “AI 換臉”的代名詞。
模型公布後引發轟動。網絡上隨即開始出現大量使用Deepfake合成的色情視頻，其中不少視頻女主角的人臉被替換為斯嘉麗·約翰遜、蓋爾·加朵等大牌女星。
這給女星們造成了極其惡劣的負面影響，最終在粉絲的譴責中，視頻被刪除，相關論壇也被封禁。
但由於相關技術的源代碼都免費開放，很快，壹系列AI換臉軟件在國內風生水起，包括ZAO、去演、顏技和AI換臉等。
在號稱“僅需壹張照片，出演天下好戲”的ZAO，只需壹張正面照，就能生成拾分真實且靈動的最長可達壹分鍾的視頻，吸引了大量用戶關注。但很快，ZAO的霸王條款和隱私泄露等問題遭到人們質疑，其發行公司陌陌也隨即遭到工信部約談。
雖然AI換臉、AI脫衣以及AI語音和視頻這些技術早已有之，但隨著ChatGPT的火熱，這些技術再次回到大家的視野，甚至變得更加逼真，更加低門檻。
更讓人擔憂的是，AI詐騙已經形成了“生成-傳播-洗錢”的完整產業鏈。
上游技術提供者通過暗網兜售“AI換臉套餐”，價格從幾百元到數萬元不等。中游推廣者則利用非法獲取的個人信息庫，通過短信、社交軟件精准投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平台等渠道轉移資金。
除此以外，AI詐騙也在越來越普遍。
在壹起山東警方破獲的AI詐騙案中。受騙人在收到冒充他的親戚的信息後，還收到了他打來的視頻，盡管在7秒的視頻中連線有些許卡頓，但是聲音和樣貌都讓受騙人確認了對方的身份，進而向對方賬戶轉賬。
近壹段時間以來，這種案例屢見不鮮。福州某科技公司法定代表人郭先生，也因為AI偽造的微信視頻，在短短拾分鍾內，就被騙了430萬。
AI的進化史，也是壹塊人性的試金石。當“賽博學生”以公益之名掠奪教育資源，當“虛擬戀人”以溫情為餌榨幹受害者積蓄，技術的雙刃性從未如此鋒利。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: