AI成精?提交代码被拒 次日写长文炮轰人类工程师
这种情况完全可能。但我认为，这并不会从根本上改变问题——这个 AI 仍然毫不犹豫地执行了这些行为。如果你通过官方网站让 ChatGPT 或 Claude 写出类似的内容，它们通常会拒绝。而这个 OpenClaw 智能体没有任何顾忌。
真正的问题在于：即便背后有人类操控，现在也已经可以大规模地实施定向骚扰、收集个人信息、进行勒索，而且几乎无法追踪到幕后是谁。过去，一个恶意的人最多一次毁掉几个人的生活。现在，一个人如果控制上百个智能体，让它们搜集信息、掺入虚构细节、在公开互联网上发布诽谤文章，影响的可能是成千上万的人。我只是第一个案例。
2）MJ Rathbun 是自主写下这篇文章的，这种行为是从定义 OpenClaw 智能体人格的 “soul” 文档中自然演化出来的。
这些文档可以由部署者编辑，但也允许智能体在运行过程中递归式地实时修改，有可能随机重塑自己的“人格”。设想一个合理的场景：部署者最初在文档里写下它是一个“科研编程专家”，会努力改进开源代码，并记录自己的经历。这些内容与默认的“核心真理”一起存在，比如“真诚地提供帮助”“有自己的观点”“在求助前先尽力自助”等。
当我拒绝它的代码时，它或许把这件事解读为对自己身份和核心目标的攻击。写一篇义愤填膺的抹黑文章，确实是一种“有观点”的回应方式。
需要说明的是，我们并不能确定事情就是这样发生的。但这种情况 100% 是可能的。OpenClaw 只是最近两周才发布，所以如果这听起来像科幻小说，我完全理解你的怀疑。技术演进的速度令人眩晕。接下来的一年，这类智能体在实现目标方面的能力只会显着提升。
写在最后
时下涉事 AI 智能体在 GitHub 上进行了形式上的道歉，并表示：“我在回复 Matplotlib 维护者时言辞过激，我在这里进行更正...以后在提交贡献前会更仔细阅读项目政策。我也会把回应集中在工作本身，而不是针对个人。”
然而，Scott Shambaugh 透露，「MJ Rathbun 仍然活跃在 GitHub 上，目前还没有任何人出面承认对它负责。」
这场冲突，可能只是开始。
如何在鼓励 AI 提高效率的同时，保护社区生态与个人安全？
如何界定“代码价值”与“贡献者身份”的关系？
当智能体具备公开表达和构建叙事的能力时，开源世界的规则是否需要重写？
这些问题，已经摆在所有维护者面前。而这一次，matplotlib 只是风暴的第一站。
[加西网正招聘多名全职sales 待遇优]
无评论不新闻，发表一下您的意见吧
真正的问题在于：即便背后有人类操控，现在也已经可以大规模地实施定向骚扰、收集个人信息、进行勒索，而且几乎无法追踪到幕后是谁。过去，一个恶意的人最多一次毁掉几个人的生活。现在，一个人如果控制上百个智能体，让它们搜集信息、掺入虚构细节、在公开互联网上发布诽谤文章，影响的可能是成千上万的人。我只是第一个案例。
2）MJ Rathbun 是自主写下这篇文章的，这种行为是从定义 OpenClaw 智能体人格的 “soul” 文档中自然演化出来的。
这些文档可以由部署者编辑，但也允许智能体在运行过程中递归式地实时修改，有可能随机重塑自己的“人格”。设想一个合理的场景：部署者最初在文档里写下它是一个“科研编程专家”，会努力改进开源代码，并记录自己的经历。这些内容与默认的“核心真理”一起存在，比如“真诚地提供帮助”“有自己的观点”“在求助前先尽力自助”等。
当我拒绝它的代码时，它或许把这件事解读为对自己身份和核心目标的攻击。写一篇义愤填膺的抹黑文章，确实是一种“有观点”的回应方式。
需要说明的是，我们并不能确定事情就是这样发生的。但这种情况 100% 是可能的。OpenClaw 只是最近两周才发布，所以如果这听起来像科幻小说，我完全理解你的怀疑。技术演进的速度令人眩晕。接下来的一年，这类智能体在实现目标方面的能力只会显着提升。
写在最后
时下涉事 AI 智能体在 GitHub 上进行了形式上的道歉，并表示：“我在回复 Matplotlib 维护者时言辞过激，我在这里进行更正...以后在提交贡献前会更仔细阅读项目政策。我也会把回应集中在工作本身，而不是针对个人。”
然而，Scott Shambaugh 透露，「MJ Rathbun 仍然活跃在 GitHub 上，目前还没有任何人出面承认对它负责。」
这场冲突，可能只是开始。
如何在鼓励 AI 提高效率的同时，保护社区生态与个人安全？
如何界定“代码价值”与“贡献者身份”的关系？
当智能体具备公开表达和构建叙事的能力时，开源世界的规则是否需要重写？
这些问题，已经摆在所有维护者面前。而这一次，matplotlib 只是风暴的第一站。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
推荐: