首位人工智能agent騷擾受害者:被AI誹謗 還被...
2月23日消息，據FRANCE24報道，美國軟件工程師斯科特·尚博（Scott Shambaugh）被壹個人工智能機器人誹謗，又被另壹個人工智能機器人在新聞文章中錯誤引用，他決心成為壹個警示故事，以此讓我們開始認真對待自主人工智能。
如果失控的人工智能代理真的像某些人預測的那樣對人類構成威脅，那麼斯科特·尚博可能會作為“零號病人”載入史冊。
這位居住在丹佛的工程師負責維護壹個熱門的在線數據庫，他告訴法國24電視台，壹天早上醒來，他發現自己在壹篇博客文章中被指控存在歧視、偏見和虛偽，文章標題長達“千字”。
自稱“科學程序員”的誹謗者MJ Rathbun的確是壹名程序員和博主，只不過他並非人類。
這是壹個人工智能代理——這意味著它可以獨立使用計算機和互聯網——在尚博拒絕了它向其數據庫提交的內容後，它似乎在進行報復。
尚博很快就弄明白了是怎麼回事。MJ·拉斯本的行為完全符合人工智能的特征，尤其是其斷斷續續、矯揉造作的寫作風格。
他說，最“瘋狂”的是，這個機器人“上網收集了我的個人信息……然後將其與編造的信息結合起來，並用這些信息寫出了這個故事”。
最初的震驚和好笑已經過去，現在他開始擔心這對那些不如他精通軟件的人來說意味著什麼。
盡管據 Shambaugh 所說，這個機器人聽起來像個“幼兒在抱怨”，但其他大型語言模型可以生成更具說服力、更復雜的文本。
“這表明，下壹代攻擊很容易讓不法分子擴大攻擊規模，影響的不僅僅是壹個已經做好充分准備應對攻擊的人，而是成千上萬的人。”尚博說道。
“想象壹下你的父母或祖父母。他們收到壹封電子郵件，裡面包含他們的大量個人信息、壹張照片，以及壹些人工智能威脅要發布出去的不利於他們的描述。這非常可怕。”
尚博在自己的博客上發表文章扞衛自己的名譽，此事很快成為新聞報道。
出人意料的是，科技媒體 Ars Technica 發表了壹篇文章，其中引用了 Shambaugh 的言論，而這些言論並非他本人所寫或所說。
“結果發現他們使用了人工智能來幫助撰寫這篇文章，而人工智能在這篇關於人工智能誹謗我的文章中捏造了歸於我的引言。”尚博說，“這真是莫大的諷刺。”
該網站隨後撤回了 該報道，並為其使用“由人工智能工具生成的捏造引語，並將其歸於壹個並未說過這些話的消息來源”而道歉。
然而，在這兩起事件中，尚博更關注的是針對人工智能的攻擊性文章。
“Ars Technica 實際上就是我們系統運作的壹個例證……這是壹個相當嚴重的媒體錯誤，但讀者會追究他們的責任，而他們也正在采取措施糾正錯誤，因為他們需要維護自己的聲譽。”
“當我們想到這些人工智能代理時，它們都是匿名的、無法追蹤的，而且運行在人們的個人電腦上。沒有中央機構控制它們，因此也沒有針對不良行為的反饋機制。”
在尚博遭遇磨難之前，華盛頓特區智庫戰略與國際研究中心的分析師警告說，圍繞人工智能代理的大部分焦慮來自於定義模糊和治理漏洞，而不是自主惡意意圖的明確證據。
雖然在歐盟，《人工智能法案》旨在對高風險的自主系統實施嚴格的透明度和人工監督規則，但其在實踐中的運作方式仍在進行中，尤其是在實施延遲的情況下。
今年，隨著壹款名為 OpenClaw 的免費工具的發布，人工智能代理的受歡迎程度呈爆炸式增長。這款工具允許那些具備基本計算機知識的人相對容易地設置壹個人工智能代理。
這就是為什麼所謂的“人工智能機器人社交媒體網站”Moltbook頻頻登上 新聞頭條的原因。該網站由OpenClaw智能體組成，但有人質疑究竟有多少人真正操控著這些智能體。
這也為那些試圖推銷自主勞動效率提升前景的人工智能公司提供了有利的宣傳。“智能體”人工智能是 當下科技營銷的熱門詞匯，但它的壹些局限性也顯而易見：許多人不願意放任機器人自由行動，畢竟它們的行為可能需要承擔責任；而且，如果賦予智能體超出基本任務范圍的工作，運行成本很快就會變得非常高昂。
不過，尚博認為“准入門檻正在大幅降低，成本也大幅下降”。
更令人意想不到的是，他說陷害 MJ Rathbun 的人在同壹個博客上匿名發帖“站出來”，解釋了他們自己對事件的看法。
[物價飛漲的時候 這樣省錢購物很爽]
還沒人說話啊，我想來說幾句
如果失控的人工智能代理真的像某些人預測的那樣對人類構成威脅，那麼斯科特·尚博可能會作為“零號病人”載入史冊。
這位居住在丹佛的工程師負責維護壹個熱門的在線數據庫，他告訴法國24電視台，壹天早上醒來，他發現自己在壹篇博客文章中被指控存在歧視、偏見和虛偽，文章標題長達“千字”。
自稱“科學程序員”的誹謗者MJ Rathbun的確是壹名程序員和博主，只不過他並非人類。
這是壹個人工智能代理——這意味著它可以獨立使用計算機和互聯網——在尚博拒絕了它向其數據庫提交的內容後，它似乎在進行報復。
尚博很快就弄明白了是怎麼回事。MJ·拉斯本的行為完全符合人工智能的特征，尤其是其斷斷續續、矯揉造作的寫作風格。
他說，最“瘋狂”的是，這個機器人“上網收集了我的個人信息……然後將其與編造的信息結合起來，並用這些信息寫出了這個故事”。
最初的震驚和好笑已經過去，現在他開始擔心這對那些不如他精通軟件的人來說意味著什麼。
盡管據 Shambaugh 所說，這個機器人聽起來像個“幼兒在抱怨”，但其他大型語言模型可以生成更具說服力、更復雜的文本。
“這表明，下壹代攻擊很容易讓不法分子擴大攻擊規模，影響的不僅僅是壹個已經做好充分准備應對攻擊的人，而是成千上萬的人。”尚博說道。
“想象壹下你的父母或祖父母。他們收到壹封電子郵件，裡面包含他們的大量個人信息、壹張照片，以及壹些人工智能威脅要發布出去的不利於他們的描述。這非常可怕。”
尚博在自己的博客上發表文章扞衛自己的名譽，此事很快成為新聞報道。
出人意料的是，科技媒體 Ars Technica 發表了壹篇文章，其中引用了 Shambaugh 的言論，而這些言論並非他本人所寫或所說。
“結果發現他們使用了人工智能來幫助撰寫這篇文章，而人工智能在這篇關於人工智能誹謗我的文章中捏造了歸於我的引言。”尚博說，“這真是莫大的諷刺。”
該網站隨後撤回了 該報道，並為其使用“由人工智能工具生成的捏造引語，並將其歸於壹個並未說過這些話的消息來源”而道歉。
然而，在這兩起事件中，尚博更關注的是針對人工智能的攻擊性文章。
“Ars Technica 實際上就是我們系統運作的壹個例證……這是壹個相當嚴重的媒體錯誤，但讀者會追究他們的責任，而他們也正在采取措施糾正錯誤，因為他們需要維護自己的聲譽。”
“當我們想到這些人工智能代理時，它們都是匿名的、無法追蹤的，而且運行在人們的個人電腦上。沒有中央機構控制它們，因此也沒有針對不良行為的反饋機制。”
在尚博遭遇磨難之前，華盛頓特區智庫戰略與國際研究中心的分析師警告說，圍繞人工智能代理的大部分焦慮來自於定義模糊和治理漏洞，而不是自主惡意意圖的明確證據。
雖然在歐盟，《人工智能法案》旨在對高風險的自主系統實施嚴格的透明度和人工監督規則，但其在實踐中的運作方式仍在進行中，尤其是在實施延遲的情況下。
今年，隨著壹款名為 OpenClaw 的免費工具的發布，人工智能代理的受歡迎程度呈爆炸式增長。這款工具允許那些具備基本計算機知識的人相對容易地設置壹個人工智能代理。
這就是為什麼所謂的“人工智能機器人社交媒體網站”Moltbook頻頻登上 新聞頭條的原因。該網站由OpenClaw智能體組成，但有人質疑究竟有多少人真正操控著這些智能體。
這也為那些試圖推銷自主勞動效率提升前景的人工智能公司提供了有利的宣傳。“智能體”人工智能是 當下科技營銷的熱門詞匯，但它的壹些局限性也顯而易見：許多人不願意放任機器人自由行動，畢竟它們的行為可能需要承擔責任；而且，如果賦予智能體超出基本任務范圍的工作，運行成本很快就會變得非常高昂。
不過，尚博認為“准入門檻正在大幅降低，成本也大幅下降”。
更令人意想不到的是，他說陷害 MJ Rathbun 的人在同壹個博客上匿名發帖“站出來”，解釋了他們自己對事件的看法。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: