新闻 
当AI自己行动,人类还安全吗?图灵奖得主谈AI安全
当AI自己行动,人类还安全吗?图灵奖得主谈AI安全当AI自己行动,人类还安全吗?图灵奖得主谈AI安全
清华大学薛澜教授从宏观治理维度审视了当前的局限性。他指出，新模型在以周为单位迭代，应用范围急剧扩张，尽管恶意使用AI的方式与技术出错的概率极高，但大规模应用至今未酿成严重灾难。
“这简直是一个‘奇迹’……不能靠奇迹来维系安全。眼前的平稳给了希望，但更像一种鞭策。想要在不出大乱子的前提下继续推进AI的发展，所有人还需要付出更多努力。”薛澜说。
薛澜指出，目前全球AI治理仍面临地缘政治、企业协调与机制建设三方面的具体局限：
首先，在组织协调层面，“受制于复杂的地缘政治，各国在AI治理这一议题上还没能建立起真正成熟的协同机制”。
其次，技术的高度集中带来了企业协调难题，全球九成算力集中在两个国家，掌握前沿技术的公司不过十几家，“如何让这些核心企业协同合作？目前只有零星的尝试，远未形成全球层面的解决方案”。
最后，“全球社会至今没有就‘暂停’达成共识”，这种暂停是为了争取更多时间去真正理解背后的科学。
针对这一治理困境，薛澜阐明了不同治理路径的互补价值。他指出，非官方的二轨对话具有不可替代的优势，“可以绕开繁杂的外交程式，直击问题核心……同时，只有在私密的小范围里，才能有真正深度的思想碰撞”。
而联合国的正式进程同样不可替代。“没有任何组织能把193个国家聚在一起，让不同国家和利益方的声音都能得到平等代表。它所达成的协议带有道义力量”。薛澜说。
智能体时代的全面到来，跨越地缘与商业藩篱的全球治理机制必须在共识和监督下加速推进，才能够摆脱对偶发“奇迹”的依赖。
[加西网正招聘多名全职sales 待遇优]
好新闻没人评论怎么行，我来说几句
“这简直是一个‘奇迹’……不能靠奇迹来维系安全。眼前的平稳给了希望，但更像一种鞭策。想要在不出大乱子的前提下继续推进AI的发展，所有人还需要付出更多努力。”薛澜说。
薛澜指出，目前全球AI治理仍面临地缘政治、企业协调与机制建设三方面的具体局限：
首先，在组织协调层面，“受制于复杂的地缘政治，各国在AI治理这一议题上还没能建立起真正成熟的协同机制”。
其次，技术的高度集中带来了企业协调难题，全球九成算力集中在两个国家，掌握前沿技术的公司不过十几家，“如何让这些核心企业协同合作？目前只有零星的尝试，远未形成全球层面的解决方案”。
最后，“全球社会至今没有就‘暂停’达成共识”，这种暂停是为了争取更多时间去真正理解背后的科学。
针对这一治理困境，薛澜阐明了不同治理路径的互补价值。他指出，非官方的二轨对话具有不可替代的优势，“可以绕开繁杂的外交程式，直击问题核心……同时，只有在私密的小范围里，才能有真正深度的思想碰撞”。
而联合国的正式进程同样不可替代。“没有任何组织能把193个国家聚在一起，让不同国家和利益方的声音都能得到平等代表。它所达成的协议带有道义力量”。薛澜说。
智能体时代的全面到来，跨越地缘与商业藩篱的全球治理机制必须在共识和监督下加速推进，才能够摆脱对偶发“奇迹”的依赖。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
推荐: