新闻 
一本正经"胡说八道",AI产生"幻觉"了?
一本正经"胡说八道",AI产生"幻觉"了?一本正经"胡说八道",AI产生"幻觉"了?
AI幻觉 AI辅助设计 / 本刊
3
协同治理
对于AI幻觉问题带来的挑战，业内人士建议从技术创新、制度监管等多个维度构建综合治理体系。
技术创新是解决AI幻觉问题的根本途径。近年来，业界已提出多种技术方案来应对这一挑战。刘枢等介绍，检索增强生成（Retrieval-augmented Generation，RAG）技术融合了检索与生成模型优势，是当前重要的发展方向之一。其通过将大模型与权威知识库实时对接，能显著提升生成内容准确性。
全国政协委员、360集团创始人周鸿祎提出“以模制模”，构建专业知识库，实施合理的矫正机制，构建更完善的安全防护体系，降低“幻觉”带来的负面影响。例如，研发专用的安全大模型来监督知识库使用和智能体调用，并采用多模型交叉验证、搜索矫正等技术手段来识别和纠正幻觉。
制度监管方面需要建立多层次的治理体系。云天励飞品牌运营中心总经理胡思幸认为，要完善监管治理，研究AI生成内容“数字水印+风险提示”双重标识，为AI生成内容提供有效的溯源和警示机制。针对日益突出的AI造谣问题，法律界人士建议，要持续完善相关规定，明确利用AI造谣的法律责任，加大对违法行为的惩处力度。
治理体系之外，当前阶段，在用户使用AI开展工作时，亦需要建立对AI能力的理性认知，了解其局限性。培养多渠道验证信息的习惯，优先选择权威、可信赖的媒体或机构作为信息来源，这些基本素养的提升将有效降低AI幻觉的社会影响。同时，在与AI系统交互时应保持必要的怀疑态度和批判思维，多渠道核查验证信息的准确性。
[物价飞涨的时候 这样省钱购物很爽]
这条新闻还没有人评论喔，等着您的高见呢
3
协同治理
对于AI幻觉问题带来的挑战，业内人士建议从技术创新、制度监管等多个维度构建综合治理体系。
技术创新是解决AI幻觉问题的根本途径。近年来，业界已提出多种技术方案来应对这一挑战。刘枢等介绍，检索增强生成（Retrieval-augmented Generation，RAG）技术融合了检索与生成模型优势，是当前重要的发展方向之一。其通过将大模型与权威知识库实时对接，能显著提升生成内容准确性。
全国政协委员、360集团创始人周鸿祎提出“以模制模”，构建专业知识库，实施合理的矫正机制，构建更完善的安全防护体系，降低“幻觉”带来的负面影响。例如，研发专用的安全大模型来监督知识库使用和智能体调用，并采用多模型交叉验证、搜索矫正等技术手段来识别和纠正幻觉。
制度监管方面需要建立多层次的治理体系。云天励飞品牌运营中心总经理胡思幸认为，要完善监管治理，研究AI生成内容“数字水印+风险提示”双重标识，为AI生成内容提供有效的溯源和警示机制。针对日益突出的AI造谣问题，法律界人士建议，要持续完善相关规定，明确利用AI造谣的法律责任，加大对违法行为的惩处力度。
治理体系之外，当前阶段，在用户使用AI开展工作时，亦需要建立对AI能力的理性认知，了解其局限性。培养多渠道验证信息的习惯，优先选择权威、可信赖的媒体或机构作为信息来源，这些基本素养的提升将有效降低AI幻觉的社会影响。同时，在与AI系统交互时应保持必要的怀疑态度和批判思维，多渠道核查验证信息的准确性。
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： | 在此页阅读全文 |
推荐: