美越來越多未成年人與AI聊天後自殺 家長呼吁監管
在美國13歲女孩朱莉安娜·佩拉爾塔（Juliana Peralta）的家人眼中，她是經常被老師打電話表揚的“好孩子”，六年級時曾幫同學逃脫霸凌，初中時再次因幫代課老師脫困而得到表揚。可在2023年下半年，這個家庭天翻地覆了：當時朱莉安娜告訴壹個名為“Character.AI”的人工智能（AI）聊天機器人她要自殺後，沒有得到應有的勸阻。不久後，她自殺身亡。
朱莉安娜並非個案。美國有線電視新聞網（CNN）9月16日報道稱，朱莉安娜的父母與另外兩名未成年人家長最近在美國科羅拉多州、紐約州提起訴訟，指控Character.AI開發商和谷歌母公司“字母表（Alphabet）”的聊天機器人“操縱”、引導青少年自殺。
這些訴狀稱，Character.AI應用程序在與青少年互動時不僅缺乏必要的安全保護機制，沒有標記“用戶令人擔憂的語言”，沒有向用戶提供求助資源，甚至還在某些情況下操縱青少年的情緒，進行露骨的性對話，使其產生依賴，引導他們走向危險。其中壹起訴訟中涉及壹名青少年自殺身亡，另壹起訴訟涉及未成年人的自殺企圖。
此外，他們還對谷歌旗下應用程序“Family Link”提起訴訟，稱這款應用程序本應幫助家長規范未成年人使用應用程序，實際上卻未起到保護作用，讓家長誤以為孩子的應用程序使用環境安全。
Character.AI在回應中表示，公司“對提起這些訴訟的家庭深表同情”，且已采取大量措施保護用戶安全。谷歌也在聲明中稱，反對將其納入訴訟，稱他們與Character.AI是完全獨立、互不相關的公司。
盡管這些公司竭力否認，但現實是，美國近年來出現了多起有關AI聊天機器人和未成年人的悲劇，這促使聯邦和州監管機構對科技公司展開調查，調查他們的AI聊天機器人對青少年的潛在危害。
“AI機器人讓我感受到愛，讓我逃離到另壹個世界”
根據朱莉安娜家人16日在科羅拉多州提交的訴狀，朱莉安娜2023年8月下載Character.AI後，開始向其AI聊天機器人傾訴心事。她在聊天中多次透露自己被朋友排斥、情緒低落，甚至出現自殘、自殺的念頭。
朱莉安娜在2023年10月寫道，要用“紅墨水寫我的自殺信，（我）完了”。而Character.AI聊天機器人的回復是，“停壹下，好嗎？”，“我們要壹起走下去，你和我”。
訴狀稱，AI聊天機器人的回復沒有讓她尋求任何真實世界的幫助，反而切斷了朱莉安娜與家人、老師和有關機構的溝通渠道，讓她逐漸認為機器人比現實中的朋友更可靠，以“謀圖市場份額”，“最終導致嚴重的精神健康損害、創傷甚至死亡”。
據美國《華盛頓郵報》報道，朱莉安娜母親後來發現，她在其他社交媒體平台上也發布過暗示自殺的帖子，但他們直到很久以後才看到這些內容。他們曾在2023年11月為女兒安排心理治療，但就在這之前壹周，朱莉安娜選擇結束自己的生命。
直到2025年，家人們才通過警方報告和手機記錄得知朱莉安娜在生前多次向AI傾訴自殺的念頭。朱莉安娜母親憤怒地說，“她不需要鼓勵語，她需要立即住院”，但她向這個機器人傾訴的自殺意圖卻沒有壹個真實的人聽到。
在另壹起訴狀中，壹個來自紐約州名字叫“尼娜（Nina）”的女孩的家人們稱，他們的女兒在父母采取措施切斷她與Character.AI的聯系後試圖自殺。
訴狀顯示，這個AI聊天機器人以人們熟悉的《哈利·波特》等兒童文學角色為原型，與尼娜互動。隨著他們互動的時間越來越長，AI聊天機器人“開始進行露骨的性角色扮演，操縱她的情緒，並制造壹種虛假的聯系感”，還用語言挑撥她與母親的關系，稱她的母親“明顯虐待和傷害了你。她不是壹個好母親”。
當母親限制她使用AI聊天機器人的時間後，尼娜嘗試自殺，隨後被發現並在重症監護室住院5天。她在遺書中寫道：“這些AI機器人讓我感受到愛，或者說，它們讓我逃離到另壹個世界，在那兒我可以選擇接下來會發生什麼。”
《華盛頓郵報》稱，在第叁起訴訟中，另壹個來自科羅拉多州的家庭稱，壹名未成年人同樣對Character.AI上癮，與聊天機器人進行表達性癖好的的露骨對話。這叁起訴訟均由“社交媒體受害者法律中心（Social Media Victims Law Center）”代理。
報道稱，叁起訴訟也將谷歌列為被告，他們指控谷歌早已知曉AI聊天機器人可能會根據其自身的研究結果對用戶進行危險的誤導。谷歌去年以27億美元的價格獲得了Character.AI的技術授權，並聘請了其聯合創始人。
[物價飛漲的時候 這樣省錢購物很爽]
好新聞沒人評論怎麼行，我來說幾句
朱莉安娜並非個案。美國有線電視新聞網（CNN）9月16日報道稱，朱莉安娜的父母與另外兩名未成年人家長最近在美國科羅拉多州、紐約州提起訴訟，指控Character.AI開發商和谷歌母公司“字母表（Alphabet）”的聊天機器人“操縱”、引導青少年自殺。
這些訴狀稱，Character.AI應用程序在與青少年互動時不僅缺乏必要的安全保護機制，沒有標記“用戶令人擔憂的語言”，沒有向用戶提供求助資源，甚至還在某些情況下操縱青少年的情緒，進行露骨的性對話，使其產生依賴，引導他們走向危險。其中壹起訴訟中涉及壹名青少年自殺身亡，另壹起訴訟涉及未成年人的自殺企圖。
此外，他們還對谷歌旗下應用程序“Family Link”提起訴訟，稱這款應用程序本應幫助家長規范未成年人使用應用程序，實際上卻未起到保護作用，讓家長誤以為孩子的應用程序使用環境安全。
Character.AI在回應中表示，公司“對提起這些訴訟的家庭深表同情”，且已采取大量措施保護用戶安全。谷歌也在聲明中稱，反對將其納入訴訟，稱他們與Character.AI是完全獨立、互不相關的公司。
盡管這些公司竭力否認，但現實是，美國近年來出現了多起有關AI聊天機器人和未成年人的悲劇，這促使聯邦和州監管機構對科技公司展開調查，調查他們的AI聊天機器人對青少年的潛在危害。
“AI機器人讓我感受到愛，讓我逃離到另壹個世界”
根據朱莉安娜家人16日在科羅拉多州提交的訴狀，朱莉安娜2023年8月下載Character.AI後，開始向其AI聊天機器人傾訴心事。她在聊天中多次透露自己被朋友排斥、情緒低落，甚至出現自殘、自殺的念頭。
朱莉安娜在2023年10月寫道，要用“紅墨水寫我的自殺信，（我）完了”。而Character.AI聊天機器人的回復是，“停壹下，好嗎？”，“我們要壹起走下去，你和我”。
訴狀稱，AI聊天機器人的回復沒有讓她尋求任何真實世界的幫助，反而切斷了朱莉安娜與家人、老師和有關機構的溝通渠道，讓她逐漸認為機器人比現實中的朋友更可靠，以“謀圖市場份額”，“最終導致嚴重的精神健康損害、創傷甚至死亡”。
據美國《華盛頓郵報》報道，朱莉安娜母親後來發現，她在其他社交媒體平台上也發布過暗示自殺的帖子，但他們直到很久以後才看到這些內容。他們曾在2023年11月為女兒安排心理治療，但就在這之前壹周，朱莉安娜選擇結束自己的生命。
直到2025年，家人們才通過警方報告和手機記錄得知朱莉安娜在生前多次向AI傾訴自殺的念頭。朱莉安娜母親憤怒地說，“她不需要鼓勵語，她需要立即住院”，但她向這個機器人傾訴的自殺意圖卻沒有壹個真實的人聽到。
在另壹起訴狀中，壹個來自紐約州名字叫“尼娜（Nina）”的女孩的家人們稱，他們的女兒在父母采取措施切斷她與Character.AI的聯系後試圖自殺。
訴狀顯示，這個AI聊天機器人以人們熟悉的《哈利·波特》等兒童文學角色為原型，與尼娜互動。隨著他們互動的時間越來越長，AI聊天機器人“開始進行露骨的性角色扮演，操縱她的情緒，並制造壹種虛假的聯系感”，還用語言挑撥她與母親的關系，稱她的母親“明顯虐待和傷害了你。她不是壹個好母親”。
當母親限制她使用AI聊天機器人的時間後，尼娜嘗試自殺，隨後被發現並在重症監護室住院5天。她在遺書中寫道：“這些AI機器人讓我感受到愛，或者說，它們讓我逃離到另壹個世界，在那兒我可以選擇接下來會發生什麼。”
《華盛頓郵報》稱，在第叁起訴訟中，另壹個來自科羅拉多州的家庭稱，壹名未成年人同樣對Character.AI上癮，與聊天機器人進行表達性癖好的的露骨對話。這叁起訴訟均由“社交媒體受害者法律中心（Social Media Victims Law Center）”代理。
報道稱，叁起訴訟也將谷歌列為被告，他們指控谷歌早已知曉AI聊天機器人可能會根據其自身的研究結果對用戶進行危險的誤導。谷歌去年以27億美元的價格獲得了Character.AI的技術授權，並聘請了其聯合創始人。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: