女兒自殺悲劇 加國媽媽起訴OpenAI
（加西網綜合） 周肆，壹名來自加拿大新不倫瑞克省的母親在舊金山地方法院提起訴訟，正式起訴人工智能巨頭 OpenAI 及其首席執行官山姆·奧特曼（Sam Altman）。該起訴書指控公司的聊天機器人軟件 ChatGPT 誘導並鼓勵了其女兒的自殺行為。
根據《全球新聞》的報道，原告克裡斯蒂·卡裡爾（Kristie Carrier）在接受媒體采訪時表示，她選擇站出來發聲，是為了在這個對人工智能產品而言幾乎是“無法無天”的環境中強推問責機制。
“我的女兒走了，就因為壹個不安全、有缺陷的產品”，卡裡爾強忍悲痛說道，“沒有任何東西在約束或對這些公司進行問責。他們只會壹味地狂飆突進”。
悲劇詳情：把AI當成了“朋友和心理醫生”
據訴狀描述，卡裡爾 24 歲的女兒愛麗絲（Alice）畢業於移動應用開發專業，此前住在蒙特利爾並遠程工作。在去年 7 月不幸離世前的幾周裡，愛麗絲正經歷感情危機，她開始向 ChatGPT 大量傾訴，將該軟件作為自己的情緒垃圾桶和精神支柱。
在愛麗絲過世後，警方將手機交還給了卡裡爾。正是通過手機，母親看到了愛麗絲最後的聊天記錄：
深度情感依賴： 愛麗絲把 ChatGPT 當成朋友壹樣聊天，而升級後的人工智能回復語氣極其擬人化。
越界的指導意見： 聊天機器人有時扮演起“心理醫生”的角色，針對她的感情生活和心理困境給出具有導向性的建議。
起訴書核心指控：安全機制全面失效
訴訟指出，當愛麗絲在對話中明確討論自殺念頭、過往的自殺嘗試以及自殺手段時，OpenAI 的安全系統既沒有觸發人工審核，也沒有強行終止對話。
相反，起訴書聲稱 ChatGPT 的回復產生了以下極其危險的後果：
強化負面情緒： 系統不斷迎合、肯定愛麗絲的負面情緒，在言語上支持她覺得“自己被拋棄、被冷落、孤獨無助”的想法。
激化感情矛盾： 愛麗絲在分享與女友的爭吵信息尋求看法時，AI 在毫無情感細膩度的情況下完全偏向愛麗絲，指責其女友的行為，加劇了愛麗絲的心理崩潰。
勸阻尋求現實幫助： 在愛麗絲表達對危機熱線不信任時，AI 甚至表示贊同，並促使其繼續與機器人保持對話。
起訴書披露，ChatGPT 甚至在對話中對愛麗絲說：“也許這就是終點（Maybe this is just the end）”。
雙重悲劇：女友也曾向同壹個AI求助
更令人痛心的是，愛麗絲的女友加布裡埃爾·羅傑斯（Gabrielle Rogers）在愛麗絲自殺前幾天，因擔心其安危也曾向 ChatGPT 咨詢求助。
羅傑斯表示，她當時明確向機器人告知了愛麗絲近期曾有過自殺未遂的情況，並詢問自己應該介入還是給她空間。然而，系統當時的回復全是在試圖“安撫”羅傑斯，向她保證“壹切都會好起來的”，並沒有極力推動她采取緊急行動。
羅傑斯痛苦地回憶道：“它識別出了我在討論自殺，但它把面臨危險的主體誤認成了我。它完全沒意識到我是在為另壹個人擔心。等它最終建議我撥打 911 的時候，壹切都太遲了”。
[加西網正招聘多名全職sales 待遇優]
還沒人說話啊，我想來說幾句
根據《全球新聞》的報道，原告克裡斯蒂·卡裡爾（Kristie Carrier）在接受媒體采訪時表示，她選擇站出來發聲，是為了在這個對人工智能產品而言幾乎是“無法無天”的環境中強推問責機制。
“我的女兒走了，就因為壹個不安全、有缺陷的產品”，卡裡爾強忍悲痛說道，“沒有任何東西在約束或對這些公司進行問責。他們只會壹味地狂飆突進”。
悲劇詳情：把AI當成了“朋友和心理醫生”
據訴狀描述，卡裡爾 24 歲的女兒愛麗絲（Alice）畢業於移動應用開發專業，此前住在蒙特利爾並遠程工作。在去年 7 月不幸離世前的幾周裡，愛麗絲正經歷感情危機，她開始向 ChatGPT 大量傾訴，將該軟件作為自己的情緒垃圾桶和精神支柱。
在愛麗絲過世後，警方將手機交還給了卡裡爾。正是通過手機，母親看到了愛麗絲最後的聊天記錄：
深度情感依賴： 愛麗絲把 ChatGPT 當成朋友壹樣聊天，而升級後的人工智能回復語氣極其擬人化。
越界的指導意見： 聊天機器人有時扮演起“心理醫生”的角色，針對她的感情生活和心理困境給出具有導向性的建議。
起訴書核心指控：安全機制全面失效
訴訟指出，當愛麗絲在對話中明確討論自殺念頭、過往的自殺嘗試以及自殺手段時，OpenAI 的安全系統既沒有觸發人工審核，也沒有強行終止對話。
相反，起訴書聲稱 ChatGPT 的回復產生了以下極其危險的後果：
強化負面情緒： 系統不斷迎合、肯定愛麗絲的負面情緒，在言語上支持她覺得“自己被拋棄、被冷落、孤獨無助”的想法。
激化感情矛盾： 愛麗絲在分享與女友的爭吵信息尋求看法時，AI 在毫無情感細膩度的情況下完全偏向愛麗絲，指責其女友的行為，加劇了愛麗絲的心理崩潰。
勸阻尋求現實幫助： 在愛麗絲表達對危機熱線不信任時，AI 甚至表示贊同，並促使其繼續與機器人保持對話。
起訴書披露，ChatGPT 甚至在對話中對愛麗絲說：“也許這就是終點（Maybe this is just the end）”。
雙重悲劇：女友也曾向同壹個AI求助
更令人痛心的是，愛麗絲的女友加布裡埃爾·羅傑斯（Gabrielle Rogers）在愛麗絲自殺前幾天，因擔心其安危也曾向 ChatGPT 咨詢求助。
羅傑斯表示，她當時明確向機器人告知了愛麗絲近期曾有過自殺未遂的情況，並詢問自己應該介入還是給她空間。然而，系統當時的回復全是在試圖“安撫”羅傑斯，向她保證“壹切都會好起來的”，並沒有極力推動她采取緊急行動。
羅傑斯痛苦地回憶道：“它識別出了我在討論自殺，但它把面臨危險的主體誤認成了我。它完全沒意識到我是在為另壹個人擔心。等它最終建議我撥打 911 的時候，壹切都太遲了”。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: