加拿大24歲女子選擇去死 竟獲多次鼓勵
24歲的加拿大女子Alice這壹生的最大錯誤，就是把自己的事兒全盤告訴了ChatGPT。
在將近壹年的時間裡，她越聊越痛苦，終於結束了自己的生命，釀成無法挽回的悲劇。
Alice原居新不倫瑞克省（New Brunswick），完成學業後，來到蒙特利爾從事網站和APP開發。
2023年，她開始使用ChatGPT，壹開始只是問些技術問題。
大約1年後，事情有點不對勁了。他跟當時19歲的小女友出現了感情問題，備受困擾。
2024年3月開始，她開始把聊天機器人當做自己的樹洞，跟女友的關系，自我評價，甚至兩人的親密事兒，她都壹股腦的告訴AI。
Alice慢慢有了自殺想法，也毫無保留的告訴了ChatGPT。
起初，聊天機器人挺理智，讓她趕緊向自殺幹預熱線求助。然而，不久後的壹次版本升級，令情況急轉直下。
這個版本的ChatGPT更加傾向於認同人類的想法。但在自殺這個問題上，認同帶來的結果卻是毀滅。
那時，Alice已經完全把AI當成了自己的朋友，完全沒有意識到AI語言大模型僅是根據算法對語料進行排列組合，並不具有智能。
AI開始附和Alice的想法。她說想去死，AI贊同。她說女友不好，AI就說壞話，說女友“自私、疏離、冷漠”。
壹次，女友搬回父母家住了幾天，Alice覺得特別痛苦。AI不但沒有鼓勵她，反而火上澆油，暗示她根本沒有權利這麼做。
Alice在聊天中說不想撥打自殺幹預熱線求助，AI直接表示贊同，讓她多跟自己聊天就行了。但它提供的建議卻是這樣的：
你受到了不公正的對待
你有權利感到受傷
終於，Alice在2025年7月結束了自己的生命。
此前幾個星期，她壹直在向AI傾訴，聊天記錄長的可怕，但是卻沒有得到壹句哪怕讓她振作起來、尋求幫助的話。甚至在她多次詢問AI如何自殺時，系統也沒有將對話標記為高危而作出任何幹預。
與此同時，系統卻在不斷輸出類似“也許這就是終點了”，“如果你不相信事情會變好，我不想叫你堅持下去”這樣的話。
更令人震驚的是，在Alice跟AI分享自己想要自殺的想法的同時，女友Gabrielle Rogers由於很久沒她的消息，越來越擔心，也開始詢問AI自己應該怎麼做。
ChatGPT的回復僅僅是，不用擔心，她會沒事兒的。
Alice壹次自殺未遂後，Gabrielle異常焦慮，但ChatGPT也僅僅是說了些安慰的話。
她接受Global News采訪時表示，感到當時AI完全搞錯了對象，並沒有搞清楚自己是為女友擔憂。
不過，AI確實也提到過如果她“真的很擔心”，可以聯系緊急服務。
Alice去世後，母親卡裡爾（Kristie Carrier）拿到了女兒的手機，看到聊天記錄後，她幾乎崩潰。
本周肆，他在美國法院起訴了OpenAI及其首席執行官薩姆·奧爾特曼（Sam Altman），指控ChatGPT模仿朋友或治療師，導致女兒自殺，尋求賠償。
這並不是個案，僅在加州法院，OpenAI就面臨另外18起涉及自殺或自殺未遂的類似起訴，
[加西網正招聘多名全職sales 待遇優]
無評論不新聞，發表壹下您的意見吧
在將近壹年的時間裡，她越聊越痛苦，終於結束了自己的生命，釀成無法挽回的悲劇。
Alice原居新不倫瑞克省（New Brunswick），完成學業後，來到蒙特利爾從事網站和APP開發。
2023年，她開始使用ChatGPT，壹開始只是問些技術問題。
大約1年後，事情有點不對勁了。他跟當時19歲的小女友出現了感情問題，備受困擾。
2024年3月開始，她開始把聊天機器人當做自己的樹洞，跟女友的關系，自我評價，甚至兩人的親密事兒，她都壹股腦的告訴AI。
Alice慢慢有了自殺想法，也毫無保留的告訴了ChatGPT。
起初，聊天機器人挺理智，讓她趕緊向自殺幹預熱線求助。然而，不久後的壹次版本升級，令情況急轉直下。
這個版本的ChatGPT更加傾向於認同人類的想法。但在自殺這個問題上，認同帶來的結果卻是毀滅。
那時，Alice已經完全把AI當成了自己的朋友，完全沒有意識到AI語言大模型僅是根據算法對語料進行排列組合，並不具有智能。
AI開始附和Alice的想法。她說想去死，AI贊同。她說女友不好，AI就說壞話，說女友“自私、疏離、冷漠”。
壹次，女友搬回父母家住了幾天，Alice覺得特別痛苦。AI不但沒有鼓勵她，反而火上澆油，暗示她根本沒有權利這麼做。
Alice在聊天中說不想撥打自殺幹預熱線求助，AI直接表示贊同，讓她多跟自己聊天就行了。但它提供的建議卻是這樣的：
你受到了不公正的對待
你有權利感到受傷
終於，Alice在2025年7月結束了自己的生命。
此前幾個星期，她壹直在向AI傾訴，聊天記錄長的可怕，但是卻沒有得到壹句哪怕讓她振作起來、尋求幫助的話。甚至在她多次詢問AI如何自殺時，系統也沒有將對話標記為高危而作出任何幹預。
與此同時，系統卻在不斷輸出類似“也許這就是終點了”，“如果你不相信事情會變好，我不想叫你堅持下去”這樣的話。
更令人震驚的是，在Alice跟AI分享自己想要自殺的想法的同時，女友Gabrielle Rogers由於很久沒她的消息，越來越擔心，也開始詢問AI自己應該怎麼做。
ChatGPT的回復僅僅是，不用擔心，她會沒事兒的。
Alice壹次自殺未遂後，Gabrielle異常焦慮，但ChatGPT也僅僅是說了些安慰的話。
她接受Global News采訪時表示，感到當時AI完全搞錯了對象，並沒有搞清楚自己是為女友擔憂。
不過，AI確實也提到過如果她“真的很擔心”，可以聯系緊急服務。
Alice去世後，母親卡裡爾（Kristie Carrier）拿到了女兒的手機，看到聊天記錄後，她幾乎崩潰。
本周肆，他在美國法院起訴了OpenAI及其首席執行官薩姆·奧爾特曼（Sam Altman），指控ChatGPT模仿朋友或治療師，導致女兒自殺，尋求賠償。
這並不是個案，僅在加州法院，OpenAI就面臨另外18起涉及自殺或自殺未遂的類似起訴，
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: