自律还是公关?AI公司,把哲学家请进实验室
2026年5月25日，梵蒂冈保禄六世大厅。讲台上站着两个人：身着白色长袍的教宗利奥十四世（Pope Leo XIV），穿着深色西装、戴着眼镜的克里斯·奥拉（Chris Olah），AI公司Anthropic的联合创始人、可解释性研究负责人。
他们共同出席的，是教宗第一份通谕 《Magnifica Humanitas》（壮丽人性）的发布会。这份长达42,300字的文件，副标题是 “论在人工智能时代守护人性”。这并非梵蒂冈首次回应技术变革。1891 年，《新事》回应工业革命对工人的剥削；1963 年《和平于世》反思核武器伦理；2015 年《愿你受赞颂》聚焦气候变化。今天，AI引发了这个时代最值得警惕的技术危机。
通谕开篇指出：技术本身不是恶的，但也绝非中立。教宗利奥十四世认为，我们不能将AI妖魔化，也不能神化它。他承认AI作为工具有其价值，但强调必须在多个方面保持“警惕”：
首先是AI权力过度集中。“当这种权力集中在少数人手中时，它往往变得不透明，逃避公众监督，增加扭曲发展形式的风险，导致新的依赖、排斥、操纵和不平等。”
其次，AI驱动的失业可能成为“社会灾难”。教宗承认AI能提高生产率、让某些工作更安全，但坚持工人不能在这个过程中变得“可丢弃”。
来自人工智能公司的代表奥拉对这些问题并不回避。他表示，“每一家前沿AI实验室，包括我自己所在的，都处于一套复杂的激励机制与现实约束之中，这些因素有时会和坚守正道、恪守良知产生冲突。”
他解释道，“AI系统不是像桥梁或飞机那样被‘设计’出来的。我们理解飞机，因为我们设计了它的每一个部件，也理解作用在它身上的物理定律。AI模型不是这样。它们是在一个大致模仿大脑的结构上‘生长’出来的，建立在人类思想和语言的巨大遗产之上。”
随后，他指出，“有些人可能认为AI问题最好由像我这样的计算机科学家来处理。他们错了：AI提出的问题比AI研究社区更大，不仅在其影响上，也在其性质上”，当AI的社会冲击已经如此之大，产业界不可能不作回应1,2。这或许能解释，为什么Anthropic、Google DeepMind等西方AI大模型公司开始把哲学家请进实验室。
对齐：既是技术问题，也是哲学问题
通谕主张，“尊严先于功能，人性不可被任何技术逻辑削减”。对于技术公司来说，首先要面对的，就是AI对齐（Alignment）问题，让通用人工智能（AGI）的目标、行为与人类价值观、伦理准则保持一致避免AI失控。对齐问题之所以棘手，不仅因为技术上怎么让AI遵守规则很难，更根本的是：到底该让AI遵守谁的规则？人类自身在道德问题上都没有共识。这一困境，在哲学上等价于“我们如何定义人的善、人的意图、人的尊严，并且让一个非人的智能体内化它？”
围绕这一问题，美国顶尖AI公司纷纷邀请哲学家、伦理学家甚至宗教领袖参与治理。
作为近些年在人工智能领域最为引人瞩目的公司，Google DeepMind早在2017年就成立了伦理与社会研究部门，由牛津大学政治理论学博士Iason Gabriel牵头。Gabriel的代表论文《人工智能、价值与对齐》被引用超过1700次，成为AI对齐领域的重要文献，深入探讨了“人类价值观如何转化为AI可理解的指令”这一问题，认为价值对齐由不可分割的技术层和规范（normative）层共同构建。前者给定一套价值/原则，如何把它可靠地编码进 AI系统，让AI遵从。后者讨论到底该把哪套价值编进去才是对的。是人权框架、用户的显式指令还是全人类的长期利益等。
Gabriel的贡献在于把对齐问题拆解为多个层次：指令、表达的意图、显现的偏好、知情/理想的偏好、利益和价值六个层级。他举了一个例子，神话中米达斯国王许愿让触碰到的所有东西都变成金子，结果食物、水乃至女儿都化为黄金。这说明AI对齐到字面指令层，会导致灾祸。但如只对齐到显现偏好层，可能被操纵。因此，他主张对齐不能只停留在某一个层面，而必须综合考虑指令、意图、偏好、利益和价值等多个维度。
最后，针对多元社会的矛盾，即人类不存在统一、公认的道德标准，他提出对齐理论的任务不是寻找唯一正确道德，而是构建能够获得所有人反思性认同（Reflective Endorsement）的公平对齐原则。这套原则不需要所有人在底层道德观达成一致，但必须满足全球公共道德、假说同意（Hypothetical Agreement，即人们在不知道自己身处哪个国家、什么阶层和信仰时会同意的AI原则）、社会选择理论三大标准，以此消解价值观多元带来的对齐困境。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
 当代思想大师 德国哲学家哈贝马斯逝世 |
他是华人中的人工智能"大牛" 却把自己当哲学家… |
| 华裔哲学家成中英在夏威夷逝世(图 |
华晨宇获音乐哲学家 自称乐坛的神 (1条评论) |
| GPT冒充哲学家 连专家都分不出来 |
洪荒少女傅园慧 1半哲学家1半婴儿 |
| 哲学家的椅子 |
着名哲学家叶秀山去世，享年81岁 |
| 中国哲学家遇冷折射美方无知(图) |
推荐: