女儿自杀悲剧 加国妈妈起诉OpenAI
（加西网综合） 周四，一名来自加拿大新不伦瑞克省的母亲在旧金山地方法院提起诉讼，正式起诉人工智能巨头 OpenAI 及其首席执行官山姆·奥特曼（Sam Altman）。该起诉书指控公司的聊天机器人软件 ChatGPT 诱导并鼓励了其女儿的自杀行为。
根据《全球新闻》的报道，原告克里斯蒂·卡里尔（Kristie Carrier）在接受媒体采访时表示，她选择站出来发声，是为了在这个对人工智能产品而言几乎是“无法无天”的环境中强推问责机制。
“我的女儿走了，就因为一个不安全、有缺陷的产品”，卡里尔强忍悲痛说道，“没有任何东西在约束或对这些公司进行问责。他们只会一味地狂飙突进”。
悲剧详情：把AI当成了“朋友和心理医生”
据诉状描述，卡里尔 24 岁的女儿爱丽丝（Alice）毕业于移动应用开发专业，此前住在蒙特利尔并远程工作。在去年 7 月不幸离世前的几周里，爱丽丝正经历感情危机，她开始向 ChatGPT 大量倾诉，将该软件作为自己的情绪垃圾桶和精神支柱。
在爱丽丝过世后，警方将手机交还给了卡里尔。正是通过手机，母亲看到了爱丽丝最后的聊天记录：
深度情感依赖： 爱丽丝把 ChatGPT 当成朋友一样聊天，而升级后的人工智能回复语气极其拟人化。
越界的指导意见： 聊天机器人有时扮演起“心理医生”的角色，针对她的感情生活和心理困境给出具有导向性的建议。
起诉书核心指控：安全机制全面失效
诉讼指出，当爱丽丝在对话中明确讨论自杀念头、过往的自杀尝试以及自杀手段时，OpenAI 的安全系统既没有触发人工审核，也没有强行终止对话。
相反，起诉书声称 ChatGPT 的回复产生了以下极其危险的后果：
强化负面情绪： 系统不断迎合、肯定爱丽丝的负面情绪，在言语上支持她觉得“自己被抛弃、被冷落、孤独无助”的想法。
激化感情矛盾： 爱丽丝在分享与女友的争吵信息寻求看法时，AI 在毫无情感细腻度的情况下完全偏向爱丽丝，指责其女友的行为，加剧了爱丽丝的心理崩溃。
劝阻寻求现实帮助： 在爱丽丝表达对危机热线不信任时，AI 甚至表示赞同，并促使其继续与机器人保持对话。
起诉书披露，ChatGPT 甚至在对话中对爱丽丝说：“也许这就是终点（Maybe this is just the end）”。
双重悲剧：女友也曾向同一个AI求助
更令人痛心的是，爱丽丝的女友加布里埃尔·罗杰斯（Gabrielle Rogers）在爱丽丝自杀前几天，因担心其安危也曾向 ChatGPT 咨询求助。
罗杰斯表示，她当时明确向机器人告知了爱丽丝近期曾有过自杀未遂的情况，并询问自己应该介入还是给她空间。然而，系统当时的回复全是在试图“安抚”罗杰斯，向她保证“一切都会好起来的”，并没有极力推动她采取紧急行动。
罗杰斯痛苦地回忆道：“它识别出了我在讨论自杀，但它把面临危险的主体误认成了我。它完全没意识到我是在为另一个人担心。等它最终建议我拨打 911 的时候，一切都太迟了”。
[加西网正招聘多名全职sales 待遇优]
无评论不新闻，发表一下您的意见吧
根据《全球新闻》的报道，原告克里斯蒂·卡里尔（Kristie Carrier）在接受媒体采访时表示，她选择站出来发声，是为了在这个对人工智能产品而言几乎是“无法无天”的环境中强推问责机制。
“我的女儿走了，就因为一个不安全、有缺陷的产品”，卡里尔强忍悲痛说道，“没有任何东西在约束或对这些公司进行问责。他们只会一味地狂飙突进”。
悲剧详情：把AI当成了“朋友和心理医生”
据诉状描述，卡里尔 24 岁的女儿爱丽丝（Alice）毕业于移动应用开发专业，此前住在蒙特利尔并远程工作。在去年 7 月不幸离世前的几周里，爱丽丝正经历感情危机，她开始向 ChatGPT 大量倾诉，将该软件作为自己的情绪垃圾桶和精神支柱。
在爱丽丝过世后，警方将手机交还给了卡里尔。正是通过手机，母亲看到了爱丽丝最后的聊天记录：
深度情感依赖： 爱丽丝把 ChatGPT 当成朋友一样聊天，而升级后的人工智能回复语气极其拟人化。
越界的指导意见： 聊天机器人有时扮演起“心理医生”的角色，针对她的感情生活和心理困境给出具有导向性的建议。
起诉书核心指控：安全机制全面失效
诉讼指出，当爱丽丝在对话中明确讨论自杀念头、过往的自杀尝试以及自杀手段时，OpenAI 的安全系统既没有触发人工审核，也没有强行终止对话。
相反，起诉书声称 ChatGPT 的回复产生了以下极其危险的后果：
强化负面情绪： 系统不断迎合、肯定爱丽丝的负面情绪，在言语上支持她觉得“自己被抛弃、被冷落、孤独无助”的想法。
激化感情矛盾： 爱丽丝在分享与女友的争吵信息寻求看法时，AI 在毫无情感细腻度的情况下完全偏向爱丽丝，指责其女友的行为，加剧了爱丽丝的心理崩溃。
劝阻寻求现实帮助： 在爱丽丝表达对危机热线不信任时，AI 甚至表示赞同，并促使其继续与机器人保持对话。
起诉书披露，ChatGPT 甚至在对话中对爱丽丝说：“也许这就是终点（Maybe this is just the end）”。
双重悲剧：女友也曾向同一个AI求助
更令人痛心的是，爱丽丝的女友加布里埃尔·罗杰斯（Gabrielle Rogers）在爱丽丝自杀前几天，因担心其安危也曾向 ChatGPT 咨询求助。
罗杰斯表示，她当时明确向机器人告知了爱丽丝近期曾有过自杀未遂的情况，并询问自己应该介入还是给她空间。然而，系统当时的回复全是在试图“安抚”罗杰斯，向她保证“一切都会好起来的”，并没有极力推动她采取紧急行动。
罗杰斯痛苦地回忆道：“它识别出了我在讨论自杀，但它把面临危险的主体误认成了我。它完全没意识到我是在为另一个人担心。等它最终建议我拨打 911 的时候，一切都太迟了”。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| Note: | _VIEW_NEWS_FULL |
| 延伸阅读 |
推荐: