奥特曼家被扔燃烧瓶后 他发文回应:我理解你们的恐惧
AI 将是有史以来最强大的人类能力扩展工具。对这一工具的需求几乎没有上限，人们将用它创造出令人惊叹的成就。世界需要大量的 AI，我们必须想清楚如何实现这一目标。
这条路不会一帆风顺。人们对 AI 的恐惧与焦虑是有根据的——我们正在经历人类社会很长时间以来，乃至有史以来最大的变革。安全问题必须做好，这不只是模型对齐的问题——我们迫切需要整个社会层面的应对机制，以抵御新型威胁，包括出台新政策，帮助我们渡过艰难的经济转型期，走向更美好的未来。
AI 必须实现民主化，权力不能过度集中。未来的掌控权属于所有人及其制度。AI 需要赋能每一个个体，我们需要集体做出关于未来走向与新规则的决策。我认为，由几家 AI 实验室来主导塑造我们未来的最关键决策，是不正确的。
适应能力至关重要。我们都在以极快的速度学习全新的事物；有些判断会对，有些会错，有时我们需要随着技术发展和社会演进迅速调整认知。目前没有人真正理解超级智能的影响，但这种影响将是深远的。
二、个人反思
回顾我在 OpenAI 头十年的工作，有很多值得骄傲的事，也有不少错误。
我想起我们即将与埃隆对簿公堂，想起当年我如何坚守底线，拒绝接受他对 OpenAI 谋求的单方面控制权。我为此感到自豪，也为我们当时走出的那条窄路感到自豪——正是那条路让 OpenAI 得以延续，并取得了此后的一切成就。
我并不为自己的回避冲突感到自豪，那给我和 OpenAI 都带来了巨大的痛苦。我也不为自己在与前任董事会的冲突中处置失当、给公司造成混乱感到自豪。OpenAI 走过的历程跌宕起伏，我在其中犯下过许多错误；我是一个有缺陷的人，身处一个异常复杂的处境，每年都在努力变得好一点，始终为这一使命而工作。
我们从一开始就清楚 AI 的赌注有多大，也知道善意之人之间的个人分歧会因此被无限放大。但亲历这些激烈的冲突、往往还要在其中充当仲裁者，其代价是沉重的。对于那些我曾经伤害过的人，我深感抱歉，也希望自己能更快从中汲取教训。
我也清醒地意识到，OpenAI 如今已是一个重要的平台，我们需要以更具可预期性的方式运营。过去几年极其紧张、混乱、高压。
但总体而言，我为我们正在兑现使命感到无比自豪。
这在当初看来几乎是不可能的。克服重重阻碍，我们摸索出了构建强大 AI 的方法，筹集到了足够的资本来建设交付所需的基础设施，建立起了一家产品公司和商业体系，以大规模提供相当安全、稳健的服务，还有更多。
很多公司都说要改变世界；我们真的做到了。
三、关于这个行业的思考
综观过去几年，我对这个领域为何上演了如此多莎士比亚式戏剧的个人理解是：「一旦看见 AGI，就再也无法视而不见。」
它有一种真实的「权力之戒」式动力，会让人做出疯狂之举。我说的不是 AGI 本身就是那枚戒指，而是「成为掌控 AGI 之人」这种无所不包的执念。
我能想到的唯一解法，是着力于向更广泛的人群开放这项技术，让任何人都无法独握那枚戒指。实现这一目标的两个显而易见的途径，是个体赋权，以及确保民主制度始终掌握主导权。
民主进程的力量必须凌驾于公司之上。法律与规范会不断演变，但我们必须在民主进程的框架内行事，尽管这个过程会混乱、也会比我们期望的更慢。我们希望成为其中的一个声音、一个利益相关方，但不是要独揽一切权力。
业界受到的许多批评，源自人们对这项技术极高风险的真诚忧虑。这种忧虑完全合理，我们欢迎善意的批评与辩论。我理解反技术的情绪，技术的确并非对每个人都始终有益。但从整体来看，我相信技术进步能够让未来变得无与伦比地美好——对你我的家庭都是如此。
在我们进行这场辩论的同时，我们应当共同降低言辞与行动的烈度，努力减少家庭中（无论是字面意义上还是比喻意义上）的冲突。
附上博客地址：
https://blog.samaltman.com/2279512
[加西网正招聘多名全职sales 待遇优]
还没人说话啊，我想来说几句
这条路不会一帆风顺。人们对 AI 的恐惧与焦虑是有根据的——我们正在经历人类社会很长时间以来，乃至有史以来最大的变革。安全问题必须做好，这不只是模型对齐的问题——我们迫切需要整个社会层面的应对机制，以抵御新型威胁，包括出台新政策，帮助我们渡过艰难的经济转型期，走向更美好的未来。
AI 必须实现民主化，权力不能过度集中。未来的掌控权属于所有人及其制度。AI 需要赋能每一个个体，我们需要集体做出关于未来走向与新规则的决策。我认为，由几家 AI 实验室来主导塑造我们未来的最关键决策，是不正确的。
适应能力至关重要。我们都在以极快的速度学习全新的事物；有些判断会对，有些会错，有时我们需要随着技术发展和社会演进迅速调整认知。目前没有人真正理解超级智能的影响，但这种影响将是深远的。
二、个人反思
回顾我在 OpenAI 头十年的工作，有很多值得骄傲的事，也有不少错误。
我想起我们即将与埃隆对簿公堂，想起当年我如何坚守底线，拒绝接受他对 OpenAI 谋求的单方面控制权。我为此感到自豪，也为我们当时走出的那条窄路感到自豪——正是那条路让 OpenAI 得以延续，并取得了此后的一切成就。
我并不为自己的回避冲突感到自豪，那给我和 OpenAI 都带来了巨大的痛苦。我也不为自己在与前任董事会的冲突中处置失当、给公司造成混乱感到自豪。OpenAI 走过的历程跌宕起伏，我在其中犯下过许多错误；我是一个有缺陷的人，身处一个异常复杂的处境，每年都在努力变得好一点，始终为这一使命而工作。
我们从一开始就清楚 AI 的赌注有多大，也知道善意之人之间的个人分歧会因此被无限放大。但亲历这些激烈的冲突、往往还要在其中充当仲裁者，其代价是沉重的。对于那些我曾经伤害过的人，我深感抱歉，也希望自己能更快从中汲取教训。
我也清醒地意识到，OpenAI 如今已是一个重要的平台，我们需要以更具可预期性的方式运营。过去几年极其紧张、混乱、高压。
但总体而言，我为我们正在兑现使命感到无比自豪。
这在当初看来几乎是不可能的。克服重重阻碍，我们摸索出了构建强大 AI 的方法，筹集到了足够的资本来建设交付所需的基础设施，建立起了一家产品公司和商业体系，以大规模提供相当安全、稳健的服务，还有更多。
很多公司都说要改变世界；我们真的做到了。
三、关于这个行业的思考
综观过去几年，我对这个领域为何上演了如此多莎士比亚式戏剧的个人理解是：「一旦看见 AGI，就再也无法视而不见。」
它有一种真实的「权力之戒」式动力，会让人做出疯狂之举。我说的不是 AGI 本身就是那枚戒指，而是「成为掌控 AGI 之人」这种无所不包的执念。
我能想到的唯一解法，是着力于向更广泛的人群开放这项技术，让任何人都无法独握那枚戒指。实现这一目标的两个显而易见的途径，是个体赋权，以及确保民主制度始终掌握主导权。
民主进程的力量必须凌驾于公司之上。法律与规范会不断演变，但我们必须在民主进程的框架内行事，尽管这个过程会混乱、也会比我们期望的更慢。我们希望成为其中的一个声音、一个利益相关方，但不是要独揽一切权力。
业界受到的许多批评，源自人们对这项技术极高风险的真诚忧虑。这种忧虑完全合理，我们欢迎善意的批评与辩论。我理解反技术的情绪，技术的确并非对每个人都始终有益。但从整体来看，我相信技术进步能够让未来变得无与伦比地美好——对你我的家庭都是如此。
在我们进行这场辩论的同时，我们应当共同降低言辞与行动的烈度，努力减少家庭中（无论是字面意义上还是比喻意义上）的冲突。
附上博客地址：
https://blog.samaltman.com/2279512
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
推荐: