新聞 
女兒自殺悲劇 加國媽媽起訴OpenAI
女兒自殺悲劇 加國媽媽起訴OpenAI女兒自殺悲劇 加國媽媽起訴OpenAI
（加西網綜合） 周肆，壹名來自加拿大新不倫瑞克省的母親在舊金山地方法院提起訴訟，正式起訴人工智能巨頭 OpenAI 及其首席執行官山姆·奧特曼（Sam Altman）。該起訴書指控公司的聊天機器人軟件 ChatGPT 誘導並鼓勵了其女兒的自殺行為。
根據《全球新聞》的報道，原告克裡斯蒂·卡裡爾（Kristie Carrier）在接受媒體采訪時表示，她選擇站出來發聲，是為了在這個對人工智能產品而言幾乎是“無法無天”的環境中強推問責機制。
“我的女兒走了，就因為壹個不安全、有缺陷的產品”，卡裡爾強忍悲痛說道，“沒有任何東西在約束或對這些公司進行問責。他們只會壹味地狂飆突進”。
悲劇詳情：把AI當成了“朋友和心理醫生”
據訴狀描述，卡裡爾 24 歲的女兒愛麗絲（Alice）畢業於移動應用開發專業，此前住在蒙特利爾並遠程工作。在去年 7 月不幸離世前的幾周裡，愛麗絲正經歷感情危機，她開始向 ChatGPT 大量傾訴，將該軟件作為自己的情緒垃圾桶和精神支柱。
在愛麗絲過世後，警方將手機交還給了卡裡爾。正是通過手機，母親看到了愛麗絲最後的聊天記錄：
深度情感依賴： 愛麗絲把 ChatGPT 當成朋友壹樣聊天，而升級後的人工智能回復語氣極其擬人化。
越界的指導意見： 聊天機器人有時扮演起“心理醫生”的角色，針對她的感情生活和心理困境給出具有導向性的建議。
起訴書核心指控：安全機制全面失效
訴訟指出，當愛麗絲在對話中明確討論自殺念頭、過往的自殺嘗試以及自殺手段時，OpenAI 的安全系統既沒有觸發人工審核，也沒有強行終止對話。
相反，起訴書聲稱 ChatGPT 的回復產生了以下極其危險的後果：
強化負面情緒： 系統不斷迎合、肯定愛麗絲的負面情緒，在言語上支持她覺得“自己被拋棄、被冷落、孤獨無助”的想法。
激化感情矛盾： 愛麗絲在分享與女友的爭吵信息尋求看法時，AI 在毫無情感細膩度的情況下完全偏向愛麗絲，指責其女友的行為，加劇了愛麗絲的心理崩潰。
勸阻尋求現實幫助： 在愛麗絲表達對危機熱線不信任時，AI 甚至表示贊同，並促使其繼續與機器人保持對話。
起訴書披露，ChatGPT 甚至在對話中對愛麗絲說：“也許這就是終點（Maybe this is just the end）”。
雙重悲劇：女友也曾向同壹個AI求助
更令人痛心的是，愛麗絲的女友加布裡埃爾·羅傑斯（Gabrielle Rogers）在愛麗絲自殺前幾天，因擔心其安危也曾向 ChatGPT 咨詢求助。
羅傑斯表示，她當時明確向機器人告知了愛麗絲近期曾有過自殺未遂的情況，並詢問自己應該介入還是給她空間。然而，系統當時的回復全是在試圖“安撫”羅傑斯，向她保證“壹切都會好起來的”，並沒有極力推動她采取緊急行動。
羅傑斯痛苦地回憶道：“它識別出了我在討論自殺，但它把面臨危險的主體誤認成了我。它完全沒意識到我是在為另壹個人擔心。等它最終建議我撥打 911 的時候，壹切都太遲了”。
針對此項指控，OpenAI 發言人德魯·普薩特裡（Drew Pusateri）在發給媒體的聲明中表示這壹事件“令人心碎”：
“這是壹個令人心碎的局面，我們的心與所有受到影響的人在壹起。我們目前正在審查這份法律訴訟。文件表明，這些互動發生在早期版本的 ChatGPT 上，該版本現在已經不再提供”。
普薩特裡強調，ChatGPT 的設計初衷絕非替代專業的醫療或心理護理。公司壹直在心理健康專家的指導下，不斷加強系統在處理敏感和緊急情況下的響應能力，其安全機制旨在識別心理困境、安全處理有害請求並引導用戶尋求現實世界中的幫助。
據悉，這已經是近期拾幾起指控 OpenAI 未能有效阻止聊天機器人與用戶進行危險對話的訴訟之壹。
卡裡爾的律師在起訴書中提出，開發對話式人工智能的公司必須被寄予更高的安全標准，尤其是當其產品在宣傳中自詡為“陪伴者”或“支持來源”時。
卡裡爾表示，她發起這項訴訟不單是為了索賠，更是希望法院下達命令，強制 OpenAI 在系統檢測到涉及自殘自殺話題時自動切斷對話，並顯示醒目的警告提示。
“我希望所有家庭都能意識到這種風險”，卡裡爾說，“我不希望再有其他的兒子或女兒遭遇同樣的悲劇。如果這能挽救哪怕壹個家庭，那麼壹切就都有意義”。
警示信息： 如果您或您身邊的人正處於心理危機中、需要尋求幫助，請不要向AI傾訴，請立即撥打現實中的求助熱線。
[物價飛漲的時候 這樣省錢購物很爽]
好新聞沒人評論怎麼行，我來說幾句
根據《全球新聞》的報道，原告克裡斯蒂·卡裡爾（Kristie Carrier）在接受媒體采訪時表示，她選擇站出來發聲，是為了在這個對人工智能產品而言幾乎是“無法無天”的環境中強推問責機制。
“我的女兒走了，就因為壹個不安全、有缺陷的產品”，卡裡爾強忍悲痛說道，“沒有任何東西在約束或對這些公司進行問責。他們只會壹味地狂飆突進”。
悲劇詳情：把AI當成了“朋友和心理醫生”
據訴狀描述，卡裡爾 24 歲的女兒愛麗絲（Alice）畢業於移動應用開發專業，此前住在蒙特利爾並遠程工作。在去年 7 月不幸離世前的幾周裡，愛麗絲正經歷感情危機，她開始向 ChatGPT 大量傾訴，將該軟件作為自己的情緒垃圾桶和精神支柱。
在愛麗絲過世後，警方將手機交還給了卡裡爾。正是通過手機，母親看到了愛麗絲最後的聊天記錄：
深度情感依賴： 愛麗絲把 ChatGPT 當成朋友壹樣聊天，而升級後的人工智能回復語氣極其擬人化。
越界的指導意見： 聊天機器人有時扮演起“心理醫生”的角色，針對她的感情生活和心理困境給出具有導向性的建議。
起訴書核心指控：安全機制全面失效
訴訟指出，當愛麗絲在對話中明確討論自殺念頭、過往的自殺嘗試以及自殺手段時，OpenAI 的安全系統既沒有觸發人工審核，也沒有強行終止對話。
相反，起訴書聲稱 ChatGPT 的回復產生了以下極其危險的後果：
強化負面情緒： 系統不斷迎合、肯定愛麗絲的負面情緒，在言語上支持她覺得“自己被拋棄、被冷落、孤獨無助”的想法。
激化感情矛盾： 愛麗絲在分享與女友的爭吵信息尋求看法時，AI 在毫無情感細膩度的情況下完全偏向愛麗絲，指責其女友的行為，加劇了愛麗絲的心理崩潰。
勸阻尋求現實幫助： 在愛麗絲表達對危機熱線不信任時，AI 甚至表示贊同，並促使其繼續與機器人保持對話。
起訴書披露，ChatGPT 甚至在對話中對愛麗絲說：“也許這就是終點（Maybe this is just the end）”。
雙重悲劇：女友也曾向同壹個AI求助
更令人痛心的是，愛麗絲的女友加布裡埃爾·羅傑斯（Gabrielle Rogers）在愛麗絲自殺前幾天，因擔心其安危也曾向 ChatGPT 咨詢求助。
羅傑斯表示，她當時明確向機器人告知了愛麗絲近期曾有過自殺未遂的情況，並詢問自己應該介入還是給她空間。然而，系統當時的回復全是在試圖“安撫”羅傑斯，向她保證“壹切都會好起來的”，並沒有極力推動她采取緊急行動。
羅傑斯痛苦地回憶道：“它識別出了我在討論自殺，但它把面臨危險的主體誤認成了我。它完全沒意識到我是在為另壹個人擔心。等它最終建議我撥打 911 的時候，壹切都太遲了”。
針對此項指控，OpenAI 發言人德魯·普薩特裡（Drew Pusateri）在發給媒體的聲明中表示這壹事件“令人心碎”：
“這是壹個令人心碎的局面，我們的心與所有受到影響的人在壹起。我們目前正在審查這份法律訴訟。文件表明，這些互動發生在早期版本的 ChatGPT 上，該版本現在已經不再提供”。
普薩特裡強調，ChatGPT 的設計初衷絕非替代專業的醫療或心理護理。公司壹直在心理健康專家的指導下，不斷加強系統在處理敏感和緊急情況下的響應能力，其安全機制旨在識別心理困境、安全處理有害請求並引導用戶尋求現實世界中的幫助。
據悉，這已經是近期拾幾起指控 OpenAI 未能有效阻止聊天機器人與用戶進行危險對話的訴訟之壹。
卡裡爾的律師在起訴書中提出，開發對話式人工智能的公司必須被寄予更高的安全標准，尤其是當其產品在宣傳中自詡為“陪伴者”或“支持來源”時。
卡裡爾表示，她發起這項訴訟不單是為了索賠，更是希望法院下達命令，強制 OpenAI 在系統檢測到涉及自殘自殺話題時自動切斷對話，並顯示醒目的警告提示。
“我希望所有家庭都能意識到這種風險”，卡裡爾說，“我不希望再有其他的兒子或女兒遭遇同樣的悲劇。如果這能挽救哪怕壹個家庭，那麼壹切就都有意義”。
警示信息： 如果您或您身邊的人正處於心理危機中、需要尋求幫助，請不要向AI傾訴，請立即撥打現實中的求助熱線。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： |
| 延伸閱讀 |
推薦: