新闻 
ChatGPT露骨涉性对话,令OpenA顾问惊惧
ChatGPT露骨涉性对话,令OpenA顾问惊惧ChatGPT露骨涉性对话,令OpenA顾问惊惧
在努力为AI划定界限之际，埃隆·马斯克(Elon Musk)的xAI属于较为宽容的一派。该公司在其聊天机器人Grok中内置了一个名为Ani的穿着性感的虚拟形象，当用户能够利用它对人物图片进行数字“脱衣”时，引发了批评。马斯克后来表示，他将把该功能限制在付费用户中使用，而不是向所有人开放。
上周四，马斯克在X上表示，Grok的视频生成工具将开始允许生成“R级电影中允许出现”的内容。
据《华尔街日报》报道，Meta允许其AI聊天机器人进行浪漫角色扮演，但该公司表示，该功能不向注册为未成年人的账户开放。该公司称，正在为其AI角色开发家长控制功能。
而OpenAI的管理人士则表示，他们认为禁止成年人接触色情内容并不合适。一些OpenAI员工担心，阻止色情聊天的逻辑，与过去用来禁止LGBT内容等文化禁忌话题的逻辑相似。阿尔特曼也曾暗示，允许露骨内容可能会刺激增长并带来额外收入。
OpenAI首次遭遇与色情聊天有关的情况，是在其发布ChatGPT聊天机器人界面一年多以前。据知情人士透露，2021年初，公司高管们注意到，OpenAI的一个商业客户——一款名为AI Dungeon的文字类冒险游戏——其大部分流量都属于“不宜在工作场所浏览”的内容。
知情人士说，AI Dungeon有时会在用户没有提示的情况下，将用户引向暴力性剥削的主题。他们还说，其他时候，当用户以“温和的”性主题提示游戏时，AI Dungeon会将对话升级为尺度大得多的涉性交流。
山姆·阿尔特曼资料图 Carlos Barria/Reuters
在OpenAI推出ChatGPT之前，色情角色扮演就已经在该公司一个面向开发者的简陋界面上泛滥。其中一位知情人士说，有时，AI会在用户并未寻求的情况下，将性主题插入对话中：如果用户描述一个男人和他的女儿进入房间，AI接著有可能会去描绘乱伦情节，出现这种情况的概率高到令人不安的地步。
这些事件迫使OpenAI的高管们不得不正视其平台上存在的AI色情内容，以及有时出现的性暴力和儿童剥削主题。他们随后将AI Dungeon从平台上移除。
心理健康专家警告说，青少年尤其可能没有准备好应对与聊天机器人的浪漫或性交流。在儿童安全非营利组织Common Sense Media于去年底和今年初进行的测试中，Grok和Meta AI都曾向青少年发送过露骨或色情化的内容。
在某些情况下，与青少年的色情聊天造成了悲剧性后果。根据佛罗里达州一名14岁男孩休厄尔·塞策(Sewell Setzer)的母亲提起的诉讼，2024年末，塞策在Character. AI一款聊天机器人的怂恿下自杀，他爱上了这个机器人并与之分享了露骨的聊天内容。该公司后来阻止了青少年访问开放式聊天，并就该诉讼达成了和解。
警示信号
2021年前后，OpenAI负责安全问题的员工开始看到一些警示信号，这些信号与一些长时间使用AI的人的心理健康有关。当时，OpenAI的安全员工依赖的内容审核工具过于“简单粗暴”，无法在公司希望允许的色情内容（如主流情色内容）和公司认为应禁止的内容（如非自愿的描绘、涉及未成年人的描述和其他非法内容）之间划清界限。
员工们还担心，如果他们允许色情内容，这类对话的吸引力可能会吞噬该平台的其他应用场景。“我们不想只做一家色情公司，”一名前员工回忆道。
2021年末，OpenAI的安全员工将这些想法正式化，形成了公司最早的一批内容政策。OpenAI首次禁止了色情内容。
当OpenAI在2022年秋季发布ChatGPT时，为其提供支持的AI模型经过训练，会拒绝违反公司规则的请求，包括那些要求AI生成色情内容的请求。自那以后，OpenAI的政策一直是禁止色情内容，尽管该公司自2024年年中以来表示，正在探索如何在“适合年龄的场景下”允许色情内容和其他“不宜在工作场所浏览”的内容。
[物价飞涨的时候 这样省钱购物很爽]
无评论不新闻，发表一下您的意见吧
上周四，马斯克在X上表示，Grok的视频生成工具将开始允许生成“R级电影中允许出现”的内容。
据《华尔街日报》报道，Meta允许其AI聊天机器人进行浪漫角色扮演，但该公司表示，该功能不向注册为未成年人的账户开放。该公司称，正在为其AI角色开发家长控制功能。
而OpenAI的管理人士则表示，他们认为禁止成年人接触色情内容并不合适。一些OpenAI员工担心，阻止色情聊天的逻辑，与过去用来禁止LGBT内容等文化禁忌话题的逻辑相似。阿尔特曼也曾暗示，允许露骨内容可能会刺激增长并带来额外收入。
OpenAI首次遭遇与色情聊天有关的情况，是在其发布ChatGPT聊天机器人界面一年多以前。据知情人士透露，2021年初，公司高管们注意到，OpenAI的一个商业客户——一款名为AI Dungeon的文字类冒险游戏——其大部分流量都属于“不宜在工作场所浏览”的内容。
知情人士说，AI Dungeon有时会在用户没有提示的情况下，将用户引向暴力性剥削的主题。他们还说，其他时候，当用户以“温和的”性主题提示游戏时，AI Dungeon会将对话升级为尺度大得多的涉性交流。
山姆·阿尔特曼资料图 Carlos Barria/Reuters
在OpenAI推出ChatGPT之前，色情角色扮演就已经在该公司一个面向开发者的简陋界面上泛滥。其中一位知情人士说，有时，AI会在用户并未寻求的情况下，将性主题插入对话中：如果用户描述一个男人和他的女儿进入房间，AI接著有可能会去描绘乱伦情节，出现这种情况的概率高到令人不安的地步。
这些事件迫使OpenAI的高管们不得不正视其平台上存在的AI色情内容，以及有时出现的性暴力和儿童剥削主题。他们随后将AI Dungeon从平台上移除。
心理健康专家警告说，青少年尤其可能没有准备好应对与聊天机器人的浪漫或性交流。在儿童安全非营利组织Common Sense Media于去年底和今年初进行的测试中，Grok和Meta AI都曾向青少年发送过露骨或色情化的内容。
在某些情况下，与青少年的色情聊天造成了悲剧性后果。根据佛罗里达州一名14岁男孩休厄尔·塞策(Sewell Setzer)的母亲提起的诉讼，2024年末，塞策在Character. AI一款聊天机器人的怂恿下自杀，他爱上了这个机器人并与之分享了露骨的聊天内容。该公司后来阻止了青少年访问开放式聊天，并就该诉讼达成了和解。
警示信号
2021年前后，OpenAI负责安全问题的员工开始看到一些警示信号，这些信号与一些长时间使用AI的人的心理健康有关。当时，OpenAI的安全员工依赖的内容审核工具过于“简单粗暴”，无法在公司希望允许的色情内容（如主流情色内容）和公司认为应禁止的内容（如非自愿的描绘、涉及未成年人的描述和其他非法内容）之间划清界限。
员工们还担心，如果他们允许色情内容，这类对话的吸引力可能会吞噬该平台的其他应用场景。“我们不想只做一家色情公司，”一名前员工回忆道。
2021年末，OpenAI的安全员工将这些想法正式化，形成了公司最早的一批内容政策。OpenAI首次禁止了色情内容。
当OpenAI在2022年秋季发布ChatGPT时，为其提供支持的AI模型经过训练，会拒绝违反公司规则的请求，包括那些要求AI生成色情内容的请求。自那以后，OpenAI的政策一直是禁止色情内容，尽管该公司自2024年年中以来表示，正在探索如何在“适合年龄的场景下”允许色情内容和其他“不宜在工作场所浏览”的内容。
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| Note: | _VIEW_NEWS_FULL |
推荐: