"霸總"圍獵中老年女性,人大代表急了
記者調查還發現，不少“AI霸總”背後由婚戀機構運作。在某短視頻平台，記者給幾位“AI霸總”點了關注後，私信即刻彈出對方發來的鏈接卡，聲稱“點擊即可獲得哥哥的聯系方式”。
記者以中老年女性身份，按照鏈接卡的提示添加了貴州某婚戀服務公司的企業微信。記者提出想獲得視頻中“AI霸總”的電話，對方回復：“姐姐，我們是大哥的紅娘，你要在我們這邊花980元辦會員，才能跟大哥聯系。”
為了進壹步了解這類“AI霸總”視頻的生成、發布流程，日前，記者用生成式AI創作平台先後制作了3個10秒的“AI霸總”視頻。在某平台，記者上傳“AI霸總”角色圖片後，系統自動識別匹配了“成熟總裁”的音色。設定完說話內容、動作描述，6小時後，記者得到了壹個像模像樣的“AI霸總”視頻。另壹App生成的“AI霸總”視頻，耗時短至2—3小時。
該圖片可能由AI生成
記者生成的“AI霸總”視頻。圖/截圖
隨後，記者在某短視頻平台注冊了壹個全新賬號，用以測試制作好的3個“AI霸總”視頻。不到18小時，賬號收獲了500多位粉絲，3個視頻中，瀏覽量最高的達1.2萬，較低的也已超過5000。同時，記者收到了中老年女性的大量評論、私信，有的在私信中向記者透露了生日、年齡等信息。
實際上，記者發布的“AI霸總”視頻並不完美。在其中壹個視頻的制作過程中，記者設置了“緩緩掏出鑽戒”的精細指令，而生成的“AI霸總”在完成這壹動作時僅拿起鑽石，將戒托留在了戒指盒中。但視頻發布後，這壹不合常理之處並未被指出。
應建立負樣本庫
依據多位受訪家屬的講述，在老齡化社會，中老年人的情感需求普遍存在。“其實沒能約束奶奶看短視頻的原因也較令人心酸，奶奶不識字，在農村的娛樂活動非常有限。家裡的年輕人也沒有經常陪伴在身邊。看短視頻是她和爺爺為數不多的消遣方式。”羅珊珊說。
數據也佐證了這壹點。2024年10月，由民政部等共同組織發布的《第伍次中國城鄉老年人生活狀況抽樣調查基本數據公報》顯示，2021年，我國老年人生活在空巢家庭（包括獨居家庭、僅與配偶居住家庭）的比例為59.7%，較2010年上升10.4個百分點。
壹些場合下，“AI霸總”的出現只是“主打壹個陪伴”。日前，記者點進某個“AI霸總”直播間，看到壹位奶奶邊包餃子，邊與“AI霸總”連麥聊天。直播間的“AI霸總”開了語音，其音色是壹個帶地方口音的中年真人男聲，與此前發布的AI視頻裡的聲音完全不壹樣，但此時，“AI霸總”是誰似乎已不重要。
為什麼中老年人容易“中招”？快思慢想研究院院長田豐深耕AI領域多年。他分析稱，壹方面，中老年人作為AI時代下的“弱勢群體”，更容易相信“眼見為實”；另壹方面，2023年起，AI數字人在短視頻賽道被大量運用，當其被濫用於黑灰產，在評論區不斷有人造勢的情況下，老年人出於從眾心理更容易上當受騙。
黃啟瑞指出，因相信“AI霸總”視頻遭遇財產損害，維權困難的原因在於當前生成式AI的技術門檻較低。壹旦被騙，受害者因缺乏取證技術及工具，難以獨立完成證據收集，證據鏈無法形成閉環。這種情況下，如果委托律師維權，又要承受高昂的維權成本。
《中國新聞周刊》檢索短視頻平台發現，當前大多數“AI霸總”視頻都標有“內容由AI生成”字樣，但仍有少量視頻缺乏標識。值得注意的是，這類標識往往通過壹行小字的形式出現在視頻左下角，難以對用戶起到顯著提示作用。
依據國家網信辦2022年11月頒布的《互聯網信息服務深度合成管理規定》，深度合成服務提供者提供人臉生成、姿態操控等人物圖像、視頻生成編輯服務時，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識。
[物價飛漲的時候 這樣省錢購物很爽]
這條新聞還沒有人評論喔，等著您的高見呢
記者以中老年女性身份，按照鏈接卡的提示添加了貴州某婚戀服務公司的企業微信。記者提出想獲得視頻中“AI霸總”的電話，對方回復：“姐姐，我們是大哥的紅娘，你要在我們這邊花980元辦會員，才能跟大哥聯系。”
為了進壹步了解這類“AI霸總”視頻的生成、發布流程，日前，記者用生成式AI創作平台先後制作了3個10秒的“AI霸總”視頻。在某平台，記者上傳“AI霸總”角色圖片後，系統自動識別匹配了“成熟總裁”的音色。設定完說話內容、動作描述，6小時後，記者得到了壹個像模像樣的“AI霸總”視頻。另壹App生成的“AI霸總”視頻，耗時短至2—3小時。
該圖片可能由AI生成
記者生成的“AI霸總”視頻。圖/截圖
隨後，記者在某短視頻平台注冊了壹個全新賬號，用以測試制作好的3個“AI霸總”視頻。不到18小時，賬號收獲了500多位粉絲，3個視頻中，瀏覽量最高的達1.2萬，較低的也已超過5000。同時，記者收到了中老年女性的大量評論、私信，有的在私信中向記者透露了生日、年齡等信息。
實際上，記者發布的“AI霸總”視頻並不完美。在其中壹個視頻的制作過程中，記者設置了“緩緩掏出鑽戒”的精細指令，而生成的“AI霸總”在完成這壹動作時僅拿起鑽石，將戒托留在了戒指盒中。但視頻發布後，這壹不合常理之處並未被指出。
應建立負樣本庫
依據多位受訪家屬的講述，在老齡化社會，中老年人的情感需求普遍存在。“其實沒能約束奶奶看短視頻的原因也較令人心酸，奶奶不識字，在農村的娛樂活動非常有限。家裡的年輕人也沒有經常陪伴在身邊。看短視頻是她和爺爺為數不多的消遣方式。”羅珊珊說。
數據也佐證了這壹點。2024年10月，由民政部等共同組織發布的《第伍次中國城鄉老年人生活狀況抽樣調查基本數據公報》顯示，2021年，我國老年人生活在空巢家庭（包括獨居家庭、僅與配偶居住家庭）的比例為59.7%，較2010年上升10.4個百分點。
壹些場合下，“AI霸總”的出現只是“主打壹個陪伴”。日前，記者點進某個“AI霸總”直播間，看到壹位奶奶邊包餃子，邊與“AI霸總”連麥聊天。直播間的“AI霸總”開了語音，其音色是壹個帶地方口音的中年真人男聲，與此前發布的AI視頻裡的聲音完全不壹樣，但此時，“AI霸總”是誰似乎已不重要。
為什麼中老年人容易“中招”？快思慢想研究院院長田豐深耕AI領域多年。他分析稱，壹方面，中老年人作為AI時代下的“弱勢群體”，更容易相信“眼見為實”；另壹方面，2023年起，AI數字人在短視頻賽道被大量運用，當其被濫用於黑灰產，在評論區不斷有人造勢的情況下，老年人出於從眾心理更容易上當受騙。
黃啟瑞指出，因相信“AI霸總”視頻遭遇財產損害，維權困難的原因在於當前生成式AI的技術門檻較低。壹旦被騙，受害者因缺乏取證技術及工具，難以獨立完成證據收集，證據鏈無法形成閉環。這種情況下，如果委托律師維權，又要承受高昂的維權成本。
《中國新聞周刊》檢索短視頻平台發現，當前大多數“AI霸總”視頻都標有“內容由AI生成”字樣，但仍有少量視頻缺乏標識。值得注意的是，這類標識往往通過壹行小字的形式出現在視頻左下角，難以對用戶起到顯著提示作用。
依據國家網信辦2022年11月頒布的《互聯網信息服務深度合成管理規定》，深度合成服務提供者提供人臉生成、姿態操控等人物圖像、視頻生成編輯服務時，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: