新闻 
ChatGPT露骨涉性对话,令OpenA顾问惊惧
ChatGPT露骨涉性对话,令OpenA顾问惊惧ChatGPT露骨涉性对话,令OpenA顾问惊惧
员工们有时会对色情内容禁令提出质疑。2024年，OpenAI的一部分员工和高管再次提出涉足更大胆内容的想法，并建议推出一系列与色情相关的产品。其他员工则表示反对，称他们担心OpenAI在许多希望安全提供的核心领域已经力不从心，尤其是在用户心理健康方面。这些AI色情产品的想法最终不了了之。
阿尔特曼也对AI色情内容表达过矛盾的心情。去年8月，当在一个播客节目中被问及他是否做过一些“对世界最好，但对取胜并非最好”的决定时，阿尔特曼回答说：“我们还没有在ChatGPT中加入性爱机器人虚拟形象。”
阿尔特曼表示，色情内容会促进增长和收入，但他说这与公司服务用户的长期激励机制不符。“我很自豪公司极少被这种事分心，”阿尔特曼说。“但有时我们确实会受到诱惑。”
两个月后，阿尔特曼似乎屈服于诱惑。他在X上发帖称，他的公司已经成功缓解了与聊天机器人相关的严重心理健康问题，并有了新的内容审核工具。就在那时，他表示公司将在12月推出色情内容功能。
在公司内部，阿尔特曼的帖子让OpenAI的员工和高管们措手不及。阿尔特曼没有告诉员工他要发这个帖子，而就在几小时前，OpenAI刚刚宣布成立身心健康顾问委员会。在那份公告中，该公司曾表示，该委员会将“帮助界定针对全年龄段的健康AI互动应是何种面貌”。
次日，阿尔特曼澄清针对青少年的心理健康保护措施不会减少。但他更加坚持允许成年人与他的聊天机器人进行“火辣”对话。
“我们不是‘民选的世界道德警察’，”阿尔特曼写道。“就像社会区分其他适当的界限（例如R级电影）一样，我们也想在这里做类似的事情。”
在阿尔特曼宣布该消息之后，OpenAI的员工很快意识到，12月发布的目标很难实现。该公司曾承诺在发布“成人模式”之前，先发布一个推测用户年龄的系统，以便阻止未成年人触发色情聊天。但OpenAI的应用主管Fidji Simo在去年12月的一次播客访谈中表示，公司决定缓慢推出该系统，以努力提高其准确性。
然而，自那以后，公司内外部对AI色情内容的担忧不断发酵。一些员工表示，他们认为OpenAI的安全工具尚未准备就绪，例如无法有效屏蔽儿童虐待等违禁内容。据熟悉他们想法的人士称，另一些人则表示，OpenAI正在屈服于财务激励，试图让人们对其模型产生依赖。
近几周，OpenAI一直忙于应对瞬息万变的AI市场。今年2月初，该公司发布了其大语言模型的新版本，月底，就在美国国防部表示将停止与竞争对手Anthropic合作后，OpenAI迅速介入，与五角大楼签署了一项协议。
在宣布推迟“成人模式”时，该公司表示将转而专注于ChatGPT的个性化以及用户个性化定制等功能。在公司内部，有管理人士表示，“成人模式”的发布可能至少推迟一个月。
该公司表示：“我们仍然信奉‘把成年用户当成年人对待’的原则，但要把这一功能的体验做好，还需要更多时间。”
[物价飞涨的时候 这样省钱购物很爽]
还没人说话啊，我想来说几句
阿尔特曼也对AI色情内容表达过矛盾的心情。去年8月，当在一个播客节目中被问及他是否做过一些“对世界最好，但对取胜并非最好”的决定时，阿尔特曼回答说：“我们还没有在ChatGPT中加入性爱机器人虚拟形象。”
阿尔特曼表示，色情内容会促进增长和收入，但他说这与公司服务用户的长期激励机制不符。“我很自豪公司极少被这种事分心，”阿尔特曼说。“但有时我们确实会受到诱惑。”
两个月后，阿尔特曼似乎屈服于诱惑。他在X上发帖称，他的公司已经成功缓解了与聊天机器人相关的严重心理健康问题，并有了新的内容审核工具。就在那时，他表示公司将在12月推出色情内容功能。
在公司内部，阿尔特曼的帖子让OpenAI的员工和高管们措手不及。阿尔特曼没有告诉员工他要发这个帖子，而就在几小时前，OpenAI刚刚宣布成立身心健康顾问委员会。在那份公告中，该公司曾表示，该委员会将“帮助界定针对全年龄段的健康AI互动应是何种面貌”。
次日，阿尔特曼澄清针对青少年的心理健康保护措施不会减少。但他更加坚持允许成年人与他的聊天机器人进行“火辣”对话。
“我们不是‘民选的世界道德警察’，”阿尔特曼写道。“就像社会区分其他适当的界限（例如R级电影）一样，我们也想在这里做类似的事情。”
在阿尔特曼宣布该消息之后，OpenAI的员工很快意识到，12月发布的目标很难实现。该公司曾承诺在发布“成人模式”之前，先发布一个推测用户年龄的系统，以便阻止未成年人触发色情聊天。但OpenAI的应用主管Fidji Simo在去年12月的一次播客访谈中表示，公司决定缓慢推出该系统，以努力提高其准确性。
然而，自那以后，公司内外部对AI色情内容的担忧不断发酵。一些员工表示，他们认为OpenAI的安全工具尚未准备就绪，例如无法有效屏蔽儿童虐待等违禁内容。据熟悉他们想法的人士称，另一些人则表示，OpenAI正在屈服于财务激励，试图让人们对其模型产生依赖。
近几周，OpenAI一直忙于应对瞬息万变的AI市场。今年2月初，该公司发布了其大语言模型的新版本，月底，就在美国国防部表示将停止与竞争对手Anthropic合作后，OpenAI迅速介入，与五角大楼签署了一项协议。
在宣布推迟“成人模式”时，该公司表示将转而专注于ChatGPT的个性化以及用户个性化定制等功能。在公司内部，有管理人士表示，“成人模式”的发布可能至少推迟一个月。
该公司表示：“我们仍然信奉‘把成年用户当成年人对待’的原则，但要把这一功能的体验做好，还需要更多时间。”
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： | 在此页阅读全文 |
推荐: