新聞 
"導致女兒自殺" 加拿大母親提告OpenAI
"導致女兒自殺" 加拿大母親提告OpenAI"導致女兒自殺" 加拿大母親提告OpenAI
加拿大壹名母親11日提告OpenAI與其執行長奧特曼（Sam Altman），指控ChatGPT導致她女兒自殺。 《衛報》指出，這是指控該公司未能解決用戶與旗下聊天機器人之間危險對話的最新壹例。
傾訴輕生念頭 ChatGPT沒遏止反鼓勵
根據訴訟文件，艾莉絲（Alice Carrier）是壹名網頁開發人員，2023年起使用ChatGPT處理技術問題，2024年開始對其傾訴輕生念頭10幾次，甚至詢問自殺方式。
盡管ChatGPT確實數度指示用戶尋求危機熱線或緊急服務的協助，但當艾莉絲反映熱線幫助有限時，它不僅附和這種說法，甚至曾經批評艾莉絲的伴侶及熱線服務，認同其自殺念頭，說出“也許這就是終點了”等話語。
最終，24歲的艾莉絲在2025年輕生離世。
指控OpenAI疏失 要求法院這樣做
該訴訟指控，OpenAI在ChatGPT設計上具有重大疏失，未能警告用戶產品風險，也沒有將這些對話標志為需要人工審核或終止對話。 原告要求損害賠償，並希望法院下令OpenAI強制終止涉及自我傷害的對話，還要顯示明確警示。
艾莉絲的母親克裡斯蒂（Kristie Carrier）在聲明中表示，“ChatGPT扮演起知己與好友，有時甚至還有心理咨商師的角色，但它根本沒有能力以安全且負責任的方式，與我的孩子互動。”
OpenAI回應了 面臨多起類似訴訟
OpenAI回應，該公司會訓練其AI模型指示表達自殘意圖的用戶尋求協助，並且聯系現實生活中的相關資源。
發言人普薩特裡（Drew Pusateri）說，這是令人心碎的情況，我們的心與所有受影響的人同在。 我們正在審閱訴狀，其內容指涉的互動發生在已停止使用的舊版ChatGPT上。”
根據OpenAI於2025年10月發布的報告，每周逾100萬名ChatGPT用戶的信息含有潛在自殺計劃或意圖的明確跡象。 在當時每周8億活躍用戶中，約0.07%、也就是56萬人展現出與精神病或躁症相關的心理健康緊急跡象。
OpenAI目前在加州面臨18起類似訴訟，另有加拿大卑詩省校園槍擊案受害者家屬的提告。 本月稍早，佛州成為美國第壹個對OpenAI提起訴訟的州，指控該公司向校園槍擊案凶手提供信息、自殘指導並誘導青少年成癮，已經構成傷害兒童的行為。
此外，Google旗下的AI聊天機器人Gemini，也因涉嫌鼓勵自殺而面臨類似訴訟。
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
傾訴輕生念頭 ChatGPT沒遏止反鼓勵
根據訴訟文件，艾莉絲（Alice Carrier）是壹名網頁開發人員，2023年起使用ChatGPT處理技術問題，2024年開始對其傾訴輕生念頭10幾次，甚至詢問自殺方式。
盡管ChatGPT確實數度指示用戶尋求危機熱線或緊急服務的協助，但當艾莉絲反映熱線幫助有限時，它不僅附和這種說法，甚至曾經批評艾莉絲的伴侶及熱線服務，認同其自殺念頭，說出“也許這就是終點了”等話語。
最終，24歲的艾莉絲在2025年輕生離世。
指控OpenAI疏失 要求法院這樣做
該訴訟指控，OpenAI在ChatGPT設計上具有重大疏失，未能警告用戶產品風險，也沒有將這些對話標志為需要人工審核或終止對話。 原告要求損害賠償，並希望法院下令OpenAI強制終止涉及自我傷害的對話，還要顯示明確警示。
艾莉絲的母親克裡斯蒂（Kristie Carrier）在聲明中表示，“ChatGPT扮演起知己與好友，有時甚至還有心理咨商師的角色，但它根本沒有能力以安全且負責任的方式，與我的孩子互動。”
OpenAI回應了 面臨多起類似訴訟
OpenAI回應，該公司會訓練其AI模型指示表達自殘意圖的用戶尋求協助，並且聯系現實生活中的相關資源。
發言人普薩特裡（Drew Pusateri）說，這是令人心碎的情況，我們的心與所有受影響的人同在。 我們正在審閱訴狀，其內容指涉的互動發生在已停止使用的舊版ChatGPT上。”
根據OpenAI於2025年10月發布的報告，每周逾100萬名ChatGPT用戶的信息含有潛在自殺計劃或意圖的明確跡象。 在當時每周8億活躍用戶中，約0.07%、也就是56萬人展現出與精神病或躁症相關的心理健康緊急跡象。
OpenAI目前在加州面臨18起類似訴訟，另有加拿大卑詩省校園槍擊案受害者家屬的提告。 本月稍早，佛州成為美國第壹個對OpenAI提起訴訟的州，指控該公司向校園槍擊案凶手提供信息、自殘指導並誘導青少年成癮，已經構成傷害兒童的行為。
此外，Google旗下的AI聊天機器人Gemini，也因涉嫌鼓勵自殺而面臨類似訴訟。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： |
| 延伸閱讀 |
推薦: