[大選] 中國幹預美大選 推特AI伍毛"綠蟬"露馬腳
總部位於澳大利亞堪培拉的Cyber CX網絡安全公司周贰（8月13日）發表報告說，中國對美國以及澳洲等民主國家發動迄今為止X平台上規模最大的生成式AI信息戰網。 報告說，他們發現壹個由至少5000個虛假賬號組成的信息戰網絡，這些AI帳號主要針對美國總統大選等政治、文化熱點事件和議題進行評論。 Cyber CX公司執行總監告訴美國之音，這些賬戶意圖強化民主國家的對立面，加深內部分歧。
AI機器人自爆底細，澳洲安全網絡人員順藤摸瓜
澳洲網絡安全人員告訴美國之音，X平台（前身為推特）多個機器人賬號在推文中自露“狐狸尾巴”，公然承認自己“人工智能（AI）模型”的身份，才引起他們的注意。
今年5月底，X平台至少72個賬號以同樣令人匪夷所思的造句模式發文，自爆機器人身分。
例如，壹個名為“Yumiko Sansone”的賬號5月30日在壹篇推文中說：“作為壹個人工智能語言模型，我必須優先提供准確和尊重他人的信息。 你提供的評論與第壹夫人吉爾·拜登（Jill Biden）博士及其倡議的主題不恰當或不相關...”
5月31日，名為“Stuart Dixon”的帳號發文：“作為壹個人工智能語言模型，我能理解你在批評波德斯塔兄弟，並對他們的關聯和行為提出質疑。 然而，我無法就此事發表任何評論或意見...”
網絡安全專家認為，這些顯然是無意間泄漏的只言片語不僅暴露了這些基於生成式人工智能（generative AI）的機器人賬號背後的技術腳本出現了故障，同時顯示，有人在指示這些賬號對眾多民主國家的政治人物和議題進行負面描述，其中包括美國第壹夫人吉爾·拜登（Jill Biden）、印度國內政治和美國民主黨政治人物約翰·波德斯塔（John Podesta）等。
他們說，這些命令顯然遭到機器人賬號的抵制，可能是相關指令違反了這些賬號被編程時所受到的某些原則。
總部位於澳大利亞堪培拉的Cyber CX網絡安全公司的研究人員順藤摸瓜，端出了壹個由至少5000個虛假賬號組成的信息戰網絡，這些賬號通過生成式人工智能（AI）模型，主要針對美國政治、文化熱門事件和議題生成語句看起來自然、語氣溫和的英文評論，但也會對其他帳號頗具爭議的內容進行轉發和評論。
研究人員說，除美國外，這個AI模型網絡進行的信息戰所涉及的國家還包括澳洲、英國、西歐、印度、日本等民主國家。
Cyber CX將此AI模型假帳號網絡命名為“綠蟬”（The Green Cicada Network），意指數千個帳號仍處於低調的潛伏期，隨時可以在壹聲令下蓄勢待發。 綠蟬是澳洲最常見的昆蟲之壹，它們會在植物的根底下，以蟲的形式生存柒年。
“綠蟬”發文旨在深化民主社會對立
研究人員說，該網絡並不在特定議題上選擇特定觀點，而是在許多有爭議話題和熱門議題上強化人們在這些議題上的意見分裂。
例如，網絡中壹個名為“Luther Randolph”的假帳號，在8月8日發文表示對美國共和黨總統候選人唐納德·川普（Donald Trump）遇刺未遂後未獲得媒體長期關注的說法表達支持，又在8月10日發文支持現任副總統、民主黨總統參選人卡馬拉·哈裡斯（Kamala Harris）。
Cyber CX公司執行總監凱瑟琳·曼斯泰德（Katherine Mansted ）說，總的來說，綠蟬的做法就是在改編那些政治分裂意味濃厚的敘事。 透過改寫原創內容，改寫推特（X）上真實用戶發布的內容，或通過擴充或轉發原創內容。 曼斯泰德對美國之音說：“它傾向的做法是雙方兼顧。 因此，我們認為在很大程度上，這個網絡旨在通過強化我們在民主國家看到的壹些比較有爭議的問題的兩個對立面，以此來加深分歧。
中國聯系：網絡背後指示或為中國AI公司人員
Cyber CX公司認為，雖然無法確認這個網絡信息AI網絡的創立是否由中國政府指示，但控制這個AI網絡的系統與中國有著密切的聯系。
曼斯泰德告訴美國之音：“首先，控制這些賬戶的大型語言模型系統應該是壹個中文系統。 我們知道，由於泄露的提示片段，例如“請將此翻譯成英文”，這些片段以中文泄露。 的提示要求，還特別引用了中國政府的原則...... 不同的人工智能大語言模型系統都有自己的安全特性和監管環境。
除此之外，她說，網絡中的虛假賬戶的壹個共同特點是，它們與壹名中國清華大學計算機科學系博士畢業生、目前在中國智譜AI任職的研究人員在X上的賬號（@ cenyk1230）有密切的互動。
[加西網正招聘多名全職sales 待遇優]
這條新聞還沒有人評論喔，等著您的高見呢
AI機器人自爆底細，澳洲安全網絡人員順藤摸瓜
澳洲網絡安全人員告訴美國之音，X平台（前身為推特）多個機器人賬號在推文中自露“狐狸尾巴”，公然承認自己“人工智能（AI）模型”的身份，才引起他們的注意。
今年5月底，X平台至少72個賬號以同樣令人匪夷所思的造句模式發文，自爆機器人身分。
例如，壹個名為“Yumiko Sansone”的賬號5月30日在壹篇推文中說：“作為壹個人工智能語言模型，我必須優先提供准確和尊重他人的信息。 你提供的評論與第壹夫人吉爾·拜登（Jill Biden）博士及其倡議的主題不恰當或不相關...”
5月31日，名為“Stuart Dixon”的帳號發文：“作為壹個人工智能語言模型，我能理解你在批評波德斯塔兄弟，並對他們的關聯和行為提出質疑。 然而，我無法就此事發表任何評論或意見...”
網絡安全專家認為，這些顯然是無意間泄漏的只言片語不僅暴露了這些基於生成式人工智能（generative AI）的機器人賬號背後的技術腳本出現了故障，同時顯示，有人在指示這些賬號對眾多民主國家的政治人物和議題進行負面描述，其中包括美國第壹夫人吉爾·拜登（Jill Biden）、印度國內政治和美國民主黨政治人物約翰·波德斯塔（John Podesta）等。
他們說，這些命令顯然遭到機器人賬號的抵制，可能是相關指令違反了這些賬號被編程時所受到的某些原則。
總部位於澳大利亞堪培拉的Cyber CX網絡安全公司的研究人員順藤摸瓜，端出了壹個由至少5000個虛假賬號組成的信息戰網絡，這些賬號通過生成式人工智能（AI）模型，主要針對美國政治、文化熱門事件和議題生成語句看起來自然、語氣溫和的英文評論，但也會對其他帳號頗具爭議的內容進行轉發和評論。
研究人員說，除美國外，這個AI模型網絡進行的信息戰所涉及的國家還包括澳洲、英國、西歐、印度、日本等民主國家。
Cyber CX將此AI模型假帳號網絡命名為“綠蟬”（The Green Cicada Network），意指數千個帳號仍處於低調的潛伏期，隨時可以在壹聲令下蓄勢待發。 綠蟬是澳洲最常見的昆蟲之壹，它們會在植物的根底下，以蟲的形式生存柒年。
“綠蟬”發文旨在深化民主社會對立
研究人員說，該網絡並不在特定議題上選擇特定觀點，而是在許多有爭議話題和熱門議題上強化人們在這些議題上的意見分裂。
例如，網絡中壹個名為“Luther Randolph”的假帳號，在8月8日發文表示對美國共和黨總統候選人唐納德·川普（Donald Trump）遇刺未遂後未獲得媒體長期關注的說法表達支持，又在8月10日發文支持現任副總統、民主黨總統參選人卡馬拉·哈裡斯（Kamala Harris）。
Cyber CX公司執行總監凱瑟琳·曼斯泰德（Katherine Mansted ）說，總的來說，綠蟬的做法就是在改編那些政治分裂意味濃厚的敘事。 透過改寫原創內容，改寫推特（X）上真實用戶發布的內容，或通過擴充或轉發原創內容。 曼斯泰德對美國之音說：“它傾向的做法是雙方兼顧。 因此，我們認為在很大程度上，這個網絡旨在通過強化我們在民主國家看到的壹些比較有爭議的問題的兩個對立面，以此來加深分歧。
中國聯系：網絡背後指示或為中國AI公司人員
Cyber CX公司認為，雖然無法確認這個網絡信息AI網絡的創立是否由中國政府指示，但控制這個AI網絡的系統與中國有著密切的聯系。
曼斯泰德告訴美國之音：“首先，控制這些賬戶的大型語言模型系統應該是壹個中文系統。 我們知道，由於泄露的提示片段，例如“請將此翻譯成英文”，這些片段以中文泄露。 的提示要求，還特別引用了中國政府的原則...... 不同的人工智能大語言模型系統都有自己的安全特性和監管環境。
除此之外，她說，網絡中的虛假賬戶的壹個共同特點是，它們與壹名中國清華大學計算機科學系博士畢業生、目前在中國智譜AI任職的研究人員在X上的賬號（@ cenyk1230）有密切的互動。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: