[谷歌] AGI将至?谷歌DeepMind写了份"人类自保指南"
对于所谓的通用人工智能 AGI，人们通常抱着“怕它不来，又怕它乱来”的矛盾心理。而这个困惑，对于正在 AI 军备竞赛中的硅谷巨头来说，就不仅仅是一个“梗”能概括的了。
4 月初，谷歌 DeepMind 发布了一份长达 145 页的报告文件，系统阐述了其对 AGI 安全的态度，DeepMind 联合创始人 Shane Legg 署名也在其中。
文件中最醒目的预测，是 AGI 的可能出现时间：
2030 年。
当然，Google 也补充说，这具有不确定性。他们定义的 AGI 是“卓越级 AGI（Exceptional AGI）”——即系统在非物理任务上达到或超越 99% 人类成年人的能力，包括学习新技能等元认知任务。
DeepMind 认为这个时间线可能非常短，发布报告的目的是说清一个问题：如果 AI 有问题，最坏的情况会是什么？我们现在能如何准备？
01 DeepMind 的 AI 安全保险
这份报告中反复出现的一个词是“严重伤害（severe harm）”，并列举了 AI 可能带来的各种灾难场景。
比如，操纵政治舆论与社会秩序。AI 可用于大规模生成极具说服力的虚假信息（如支持某一政党或反对公共议题）；可在不疲劳的前提下，与数十万人开展个性化诱导对话，实现“超级社工诈骗”。
实现自动化网络攻击。AI 可识别软件漏洞、自动组合攻击代码，显著提升发现和利用“零日漏洞”能力；可降低攻击门槛，使普通人也能发起国家级网络攻击；DeepMind 提到，已有国家级黑客组织利用 AI 辅助攻击基础设施。
生物安全失控。AI 能帮助筛选、合成更危险的生物因子（如更强毒性的病毒）；甚至能一步步教导非专业者制造并传播生物武器。
结构性灾难。长期使用 AI 决策可能导致人类逐渐失去关键政治/道德判断能力；过度依赖 AI 导致价值观单一锁定、隐性集中控制；人类无法判断 AI 输出是否可靠，陷入“AI 输出训练 AI 输出”的闭环。
自动武器部署与军事对抗。AI 被用于自动化军事系统，可能在无监督下执行毁灭性行动；报告强调极端情境下应禁止 AI 系统接触核攻击系统。
DeepMind 将各种风险分为四大类：
恶意使用（misuse）、
模型不对齐（misalignment）
AI 无意中造成伤害（mistakes）
系统性失控（structural risk）
[加西网正招聘多名全职sales 待遇优]
无评论不新闻，发表一下您的意见吧
4 月初，谷歌 DeepMind 发布了一份长达 145 页的报告文件，系统阐述了其对 AGI 安全的态度，DeepMind 联合创始人 Shane Legg 署名也在其中。
文件中最醒目的预测，是 AGI 的可能出现时间：
2030 年。
当然，Google 也补充说，这具有不确定性。他们定义的 AGI 是“卓越级 AGI（Exceptional AGI）”——即系统在非物理任务上达到或超越 99% 人类成年人的能力，包括学习新技能等元认知任务。
DeepMind 认为这个时间线可能非常短，发布报告的目的是说清一个问题：如果 AI 有问题，最坏的情况会是什么？我们现在能如何准备？
01 DeepMind 的 AI 安全保险
这份报告中反复出现的一个词是“严重伤害（severe harm）”，并列举了 AI 可能带来的各种灾难场景。
比如，操纵政治舆论与社会秩序。AI 可用于大规模生成极具说服力的虚假信息（如支持某一政党或反对公共议题）；可在不疲劳的前提下，与数十万人开展个性化诱导对话，实现“超级社工诈骗”。
实现自动化网络攻击。AI 可识别软件漏洞、自动组合攻击代码，显著提升发现和利用“零日漏洞”能力；可降低攻击门槛，使普通人也能发起国家级网络攻击；DeepMind 提到，已有国家级黑客组织利用 AI 辅助攻击基础设施。
生物安全失控。AI 能帮助筛选、合成更危险的生物因子（如更强毒性的病毒）；甚至能一步步教导非专业者制造并传播生物武器。
结构性灾难。长期使用 AI 决策可能导致人类逐渐失去关键政治/道德判断能力；过度依赖 AI 导致价值观单一锁定、隐性集中控制；人类无法判断 AI 输出是否可靠，陷入“AI 输出训练 AI 输出”的闭环。
自动武器部署与军事对抗。AI 被用于自动化军事系统，可能在无监督下执行毁灭性行动；报告强调极端情境下应禁止 AI 系统接触核攻击系统。
DeepMind 将各种风险分为四大类：
恶意使用（misuse）、
模型不对齐（misalignment）
AI 无意中造成伤害（mistakes）
系统性失控（structural risk）
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 | 更多... |
推荐: