[特朗普] 壹夜冒數百賬號 驚現AI"美女大軍" 狂刷"支持川普"
《紐約時報》截圖 據紐約時報報道，人工智能生成的虛假網紅在 TikTok、Instagram、Facebook 和 YouTube 上大增，目的明顯是為了吸引保守派選民 。
在壹段 TikTok 視頻中，壹名金發女子與壹群女性在賽馬場自拍 。 她說，“ 如果你支持特朗普，你就多了壹個朋友 ”。
在另壹段視頻中，是壹名棕發女子，這次她和壹群人在體育場 。 她說，“ 如果你支持特朗普，你就多了壹個朋友 ”。
第叁個帖子中，壹名紅發女子與壹群人在籃球場 。“ 她說，“ 如果你支持特朗普，你就多了壹個朋友 ”。
每段視頻都配有相同且語法別扭的說明文字：“ 我是新來的，我愛上帝 、 美國，還有特朗普！！”
這些內容全部由人工智能生成 。
在中期選舉前的幾個月裡，社交媒體上出現了數百個賬號，這些賬號使用人工智能生成的親特朗普人物，以極快的頻率發布內容，討論 “ 激進左派 ” 和 “ 美國優先 ”。
他們看起來像普通人，非常好看，對著鏡頭帶著曖昧神情，發表對伊朗戰爭 、 墮胎或壞兔子的看法 。
特朗普至少轉發過其中壹個賬號的內容，那是壹個白金色頭發的虛擬形象，發布關於加利福尼亞州州長的謠言 。
《 紐約時報 》 從 1 月開始追蹤這些 “ 讓美國再次偉大 ” 人工智能 TikTok 內容，發現至少有 304 個賬號在傳播這些內容，其中壹些已經消失 。
普渡大學治理與負責任人工智能實驗室（GRAIL）的研究人員在 TikTok、Instagram 和 Facebook 上又發現了拾多個賬號 。 數字威脅緩解公司 Alethea 的調查分析師埃裡克 · 尼爾森在 YouTube 上又識別出 9 個賬號 。
壹些賬號已經積累了超過 3.5 萬粉絲，壹些帖子獲得了超過 50 萬次觀看 。《 紐約時報 》 審查的這些賬號都沒有標明是人工智能生成 。
目前尚不清楚這些人工智能賬號由誰創建 。 專家表示，很難判斷是內容工廠 、 外國影響行動 、 實驗項目還是其他來源的產物 。
研究人員表示，這些人工智能政治虛擬形象的出現，表明有人在大規模嘗試吸引保守派選民 。 這個群體已經被特朗普及其圈子影響，更容易接受表情包 、 網紅 、 深度偽造和其他數字化傳播內容 。
《 紐約時報 》 及其咨詢的研究人員沒有發現類似的左翼網絡 。
GRAIL 聯合主任凱琳 · 傑克遜 · 希夫表示：“ 為中期選舉做准備的人應該預期，他們可能會在自己的賬號上看到這種內容，而且這些內容可能被精心設計得對他們特別有吸引力 。”
TikTok 在聲明中表示，公司對這 304 個賬號進行了仔細審查，沒有發現 “ 任何秘密影響行動的跡象 ”。 公司認為，這些賬號是試圖獲取互動量的垃圾信息發布者，是 “ 手機和社交媒體上不幸但常見的現象 ”，並表示正在刪除這些賬號 。
在選舉年份，網絡上的政治討論總會增加，其中很多由自動機器人 、 水軍和其他不真實賬號推動 。
而現在，人工智能讓這個灰色世界有了新的面孔 —— 實際上是大量新的面孔，還有逼真的聲音 、 人格和話術，足以構建出壹種政治運動的幻象 。
至少目前來看，壹些人工智能賬號似乎並不專注於政治，而是通過吸引關注和評論來提高互動數據 。 有些賬號看起來像戀愛詐騙，有些則在銷售脫毛膏或中國旅游產品，並用娛樂 、 體育 、 宗教等非政治內容填充帖子 。
不過，許多人工智能賬號顯然意在操縱觀眾的政治觀點 。
“ 這是我第壹次看到這樣的情況，” 尼爾森說 。
許多賬號明顯彼此關聯，壹些賬號群共享相同的語言 、 圖像 、 頭像和音效 。 同樣的角色會出現在多個賬號中：金色辮子 、 穿著飄逸裙子的農場女子；坐在輪椅上的紫衣女子；戴紅色 “MAGA” 帽子和飛行員墨鏡的黑人女性，壹些賬號還互相關注 。
很難判斷這些賬號具體何時何地創建 。 幾乎所有賬號的首條視頻都發布在過去壹年內 。 大多數賬號聲稱來自美國不同州，但使用的英語生硬或語法錯誤 。
他們稱特朗普為 “ 最愛的總統 ”，並在說明中寫著 “ 向你分享真相 ”，還鼓勵觀眾 “ 如果喜歡我的直播先關注我 ”。
至少 13 個賬號的簡介寫著：“ 共和黨人 & 為你支持特朗普感到自豪，告訴我?。”
被特朗普轉發的那個虛擬形象賬號擁有超過 5.1 萬 TikTok 粉絲 。 她在 1 月 15 日發布的前兩條視頻中帶著濃重的外國口音，第贰天就變成了美國口音 。
人工智能虛擬形象，已經被用來推廣未經證實的健康補充劑 、 主持充滿錯誤信息的新聞節目，以及提供可疑的醫療建議 。 在政治領域，人工智能可能會實質性影響選民觀點 。 大量親 “ 讓美國再次偉大 ” 的內容混雜在真人創作者的內容中，在快速滾動的社交媒體信息流裡，可能讓觀眾對共和黨和特朗普產生更有利的看法，正如壹位專家所說，這是 “ 噴灑式 ” 傳播，而不是精准傳播 。
非營利組織 CivAI 技術成員安德魯 · 尹表示：“ 他們試圖傳播政治信息，並制造壹種共識的假象 。 用大量視頻淹沒信息空間，似乎是為了制造多數意見的虛假感覺 。”
GRAIL 的希夫表示，壹些賬號可能通過對虛擬形象做細微調整來針對特定受眾 。《 紐約時報 》 在 2 月初開始追蹤壹個賬號，當時以壹個棕眼棕發的車內女性形象發布內容 。 此後賬號發布了 37 段視頻，虛擬形象變化了 6 次，包括頭發變金 、 眼睛變藍等 。
這些虛擬形象經常出現在軍事場景中，或穿著移民執法人員的服裝，似乎試圖利用近期沖突 。 壹項 《 華盛頓郵報 》 的調查顯示，壹個展示金發女兵與特朗普及其他世界領導人合影的 Instagram 賬號，獲得了超過 100 萬粉絲 。
今年春天的壹周內，有 10 個不同賬號發布了類似內容：壹排穿著軍裝的女性用相同的機械語調說，“ 如果你覺得被冒犯，沒關系，繼續滑動 ”，然後鼓勵觀眾 “ 點擊關注 ”。 其他帖子還出現了變形的美國國旗等人工智能痕跡 。
盡管部分賬號質量較低，互動量可能被機器人放大，但研究人員表示，評論區顯示許多用戶認為這些虛擬形象是真人 。
Meta 表示，要求用戶在發布使用人工智能制作或編輯的逼真內容時進行標注，否則將面臨處罰 。 但公司也指出，隨著技術發展，識別人工智能內容越來越困難 。YouTube 表示正在審查這些帶有政治人工智能虛擬形象的頻道，並關閉違反平台垃圾信息和欺騙行為政策的賬號 。
人工智能廣告創業公司 Doublespeed 的聯合創始人祖海爾 · 拉卡尼稱，每條親特朗普虛擬形象內容的制作成本約為 1 到 3 美元 。 這個公司運營基於智能手機的機器人內容農場，投放大量合成網紅，並在網上宣稱：“ 現在壹個人就能完成過去需要 30 人創作團隊和 4 萬美元成本的工作，而且成本只有拾分之壹 。”
拉卡尼表示，盡管民主黨 、 共和黨和外國方面都曾接洽，公司仍拒絕參與政治項目，這源於 “ 道德考量 ”。
但他說，“ 確實有很多公司在接這些項目，而且這些合同規模很大，非常誘人 。”
共和黨全國委員會發言人扎克 · 帕金森表示他們沒有參與這些賬號 。 他說，共和黨競選應使用所有可能的工具，包括人工智能，但強調這項技術 “ 不是靈丹妙藥 ”。
他說：“ 沒有什麼能取代有力的信息或優秀的候選人，也無法取代真實的音頻 、 視頻和畫面 。 真實性仍然最重要 。”
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： |
| 延伸閱讀 | 更多... |
推薦: