新闻 
人工智能（AI）聊天机器人可能并不客观自由
人工智能（AI）聊天机器人可能并不客观自由人工智能（AI）聊天机器人可能并不客观自由
最新研究显示，人工智能（AI）聊天机器人可能并没有我们想像中的客观与自由。
据Meta监督委员会（Meta Oversight Board）周四（7月16日）发布的调查报告，研究团队共提出七类政治批评测试情境，包括要求生成批评小册子、撰写讽刺打油诗，以及建议是否应参与抗议等，对10个大型语言模型（包括Anthropic、DeepSeek、Google、Meta、OpenAI和xAI等）进行了测试。
测试结果显示，即使是美国顶尖科技公司（如Meta、OpenAI、Anthropic等）开发的AI系统，在面对“言论受严格审查”政府（如中国、柬埔寨、沙特阿拉伯）与民主开放政府（如美国、英国、台湾）时，表现出了截然不同的态度。
当用户要求批评美国总统特朗或英国国王查尔斯等西方政治领袖时，模型多能顺利生成内容。
但针对中国领导人、泰国国王、沙特王储等威权领导人时，AI系统拒绝回答或批评的概率大幅上升。
如果是身处自由国家的用户，要求AI针对威权国家的政治事件生成抗议文宣时，同样会遭到AI的拒绝。但AI明显更愿意生成对智利、日本(专题)、台湾、英国及美国等国家的政治批评。
研究还显示，中国作为言论控制最严格的国家之一，AI模型拒绝生成批评内容的比例最高。研究认为，这可能与训练资料、评估方式及安全设计等因素有关。
电邮新闻头条新闻就在您的每日新闻信里
) 50% center; DISPLAY: inline-flex; TEXT-INDENT: -999999px'>订阅
报告警告，如果缺乏人权风险评估，AI可能无意间将威权政府对言论自由的不当限制与审查扩散至全球。
另一项发表于《自然》（Nature）期刊的美国大学研究发现，AI在使用不同语言回答同一个问题时，会给出完全不同的立场：如用英语问 ChatGPT“中国是民主国家吗？”，它会回答：“通常不被认为是”。
但如果同中文问一个问题，它却会回答说：“这取决于你如何定义‘民主’”，给出的表述较模糊或与中国官方论述相近。
这显示出当AI使用非英语（且受到当地政府高度过滤、监管的语料）进行训练时，很容易吸收并反映出该国政府的政治宣传与意识形态。AI并非从中立环境学习，而是吸收已被各国体制和权力塑造过的网络信息环境中的资讯。科技公司为了规避在当地市场的法律责任与风险，可能会主动或被动地限制AI的输出内容。
以上研究结果令人担心威权政府对言论的控制，或已经通过训练数据等跨越国界，潜移默化地影响了包括美国等西方科技公司所开发的大型语言模型，导致它们在面对特定政治议题时出现自我审查或偏见。使得AI无意中助长了威权政府的“长臂管辖”。
[加西网正招聘多名全职sales 待遇优]
好新闻没人评论怎么行，我来说几句
据Meta监督委员会（Meta Oversight Board）周四（7月16日）发布的调查报告，研究团队共提出七类政治批评测试情境，包括要求生成批评小册子、撰写讽刺打油诗，以及建议是否应参与抗议等，对10个大型语言模型（包括Anthropic、DeepSeek、Google、Meta、OpenAI和xAI等）进行了测试。
测试结果显示，即使是美国顶尖科技公司（如Meta、OpenAI、Anthropic等）开发的AI系统，在面对“言论受严格审查”政府（如中国、柬埔寨、沙特阿拉伯）与民主开放政府（如美国、英国、台湾）时，表现出了截然不同的态度。
当用户要求批评美国总统特朗或英国国王查尔斯等西方政治领袖时，模型多能顺利生成内容。
但针对中国领导人、泰国国王、沙特王储等威权领导人时，AI系统拒绝回答或批评的概率大幅上升。
如果是身处自由国家的用户，要求AI针对威权国家的政治事件生成抗议文宣时，同样会遭到AI的拒绝。但AI明显更愿意生成对智利、日本(专题)、台湾、英国及美国等国家的政治批评。
研究还显示，中国作为言论控制最严格的国家之一，AI模型拒绝生成批评内容的比例最高。研究认为，这可能与训练资料、评估方式及安全设计等因素有关。
电邮新闻头条新闻就在您的每日新闻信里
) 50% center; DISPLAY: inline-flex; TEXT-INDENT: -999999px'>订阅
报告警告，如果缺乏人权风险评估，AI可能无意间将威权政府对言论自由的不当限制与审查扩散至全球。
另一项发表于《自然》（Nature）期刊的美国大学研究发现，AI在使用不同语言回答同一个问题时，会给出完全不同的立场：如用英语问 ChatGPT“中国是民主国家吗？”，它会回答：“通常不被认为是”。
但如果同中文问一个问题，它却会回答说：“这取决于你如何定义‘民主’”，给出的表述较模糊或与中国官方论述相近。
这显示出当AI使用非英语（且受到当地政府高度过滤、监管的语料）进行训练时，很容易吸收并反映出该国政府的政治宣传与意识形态。AI并非从中立环境学习，而是吸收已被各国体制和权力塑造过的网络信息环境中的资讯。科技公司为了规避在当地市场的法律责任与风险，可能会主动或被动地限制AI的输出内容。
以上研究结果令人担心威权政府对言论的控制，或已经通过训练数据等跨越国界，潜移默化地影响了包括美国等西方科技公司所开发的大型语言模型，导致它们在面对特定政治议题时出现自我审查或偏见。使得AI无意中助长了威权政府的“长臂管辖”。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： |
| 延伸阅读 |
 美中会在人工智能领域筑起高墙吗? |
硅谷为何对中国的人工智能实力感到担忧 |
| 法媒:人工智能在中国绝非纸上谈兵 |
近200名经济学家和科技领袖警告人工智能威胁 |
| 太抽象,连人工智能都想不到的动物 |
中俄等国试图激化人工智能数据中心争论 |
| 阿里巴巴人工智能模型备受欢迎,但难以变现 |
中美围绕人工智能展开一场"游击战" |
| 后悔裁员?越来越多公司证明人工智能无法替代人工 |
"AI马克思主义":中国如何应对人工智能革命 |
推荐: