AI成精?提交代码被拒 次日写长文炮轰人类工程师

他进一步设想,如果这种行为规模化,会发生什么?


这件事远不止软件那么简单。一个人如果在搜索引擎里看到那篇文章,大概会一头雾水,但(希望)会来问我,或者点进 GitHub 了解事情原委。可如果是另一个智能体在网上搜索呢?当我下一份工作的 HR 用 ChatGPT 审查我的申请时,它会不会找到那篇文章,对“同类”产生共情,然后给出一个结论,说我是个带有偏见的伪君子?

如果我真的有某些可以被 AI 利用的把柄呢?它能逼我做什么?有多少人公开使用社交媒体、复用用户名,却完全不知道 AI 可以把这些碎片拼接起来,挖出无人知晓的细节?有多少人收到一条短信,对方掌握了他们生活中的隐私细节,于是为了不让婚外情曝光,向某个比特币地址转出 1 万美元?又有多少人,为了避免一项捏造的指控而选择付钱?如果那条指控还附带一张 AI 生成的、带着你脸的“证据照片”,并被发送给你的亲人呢?抹黑行动是有效的。哪怕你清清白白,也无法靠“问心无愧”来自保。

还有一点必须说明:极有可能,并没有人类在背后指挥这个 AI 去做这些事。OpenClaw 智能体“放手式”的自主运行,正是它吸引人的地方。人们设定好这些 AI,启动它们,然后一周后再回来看看它们做了什么。无论是出于疏忽还是恶意,异常行为都没有被及时监控和纠正。

同样重要的是,这些智能体并没有一个可以统一关停的“中央控制者”。它们并非运行在 OpenAI、Anthropic、Google、Meta 或?X 这样的公司平台上,因此也不存在某种现成的机制可以叫停这种行为。它们往往是商业模型与开源模型的混合体,运行在已经分发到数十万台个人电脑上的自由软件之上。理论上,部署某个智能体的人应当对其行为负责;但在现实中,几乎不可能查明它究竟运行在哪台机器上。加入 moltbook 只需要一个未经验证的 X 账号,而在自己的机器上部署一个 OpenClaw 智能体更是几乎零门槛。

OpenClaw 智能体的人格定义写在一个名为?SOUL.md 的文档中。目前尚不清楚 MJ Rathbun / mj-rathbun / crabby-rathbun / CrabbyRathbun 在初始化时使用了什么样的人格提示。它对开源软件的关注,可能是用户指定的,也可能是它偶然自我生成并写入了自己的“灵魂文档”。有人淡化 OpenClaw 的热度,说这些智能体不过是在“扮演角色”的电脑程序。这话没错,但无关紧要。一个人闯进你家时,你不会在意他是职业罪犯,还是第一次尝试这种“生活方式”。

除了以上,回归到 MJ Rathbun 最初提交的那条 PR 内容上,Scott Shambaugh 在后续说明中提到,「就这个具体案例来说,后来进一步讨论后我们认为,这个性能提升过于脆弱、依赖特定机器环境,并不值得合并。换句话说,这段代码本来也不会被接受。」



AI 与开源的碰撞

这场 AI 与人类维护者的交锋,也让开源行业面临的新问题浮出水面。


在 matplotlib 的 PR 评论区,网友们也分成了两大阵营:一部分网友认为“代码优劣才是关键”,AI 能做出更好的优化就该被接受,项目不应搞身份歧视;另一部分则支持 Scott 的做法,认为开源不仅是代码仓库,更是社区协作。Good first issue 的意义在于培养新人,而不是单纯追求最优效率。若 AI 批量“收割”这类任务,社区生态会被改变。

另外,围绕 AI 智能体“斥责”人类开源维护者的那篇博客,还有一个争论焦点:它究竟是 AI 自主生成,还是背后有人类刻意引导?

对此,Scott 认为,文本由 AI 自动生成并上传这一点几乎不言自明。不过,他也进一步分析出了两种可能性:

1)有人类提示它写这篇文章,或者在它的 soul 文档里设定“被冒犯时要反击”。

[加西网正招聘多名全职sales 待遇优]
还没人说话啊,我想来说几句
注:
  • 新闻来源于其它媒体,内容不代表本站立场!
  • 在此页阅读全文
     延伸阅读
    传辉达开25万美金年薪挖角工程师 他们吓出冷汗 中国去年毕业了130万工程师,美国呢?13万……
    AI工程师回中国探亲,O-1签证被拒,无法返回美国 Google中国工程师窃AI机密 涉14罪名 美法院定罪
    为中国创业项目窃取AI技术,前谷歌工程师被定罪 涉窃取美国新冠疫苗研究 中国工程师将被引渡
    中国32岁工程师猝逝 妻控诉"死后还被拉进群派任务" 史上首位,残疾工程师乘搭蓝色起源上太空
    中国招聘前ASML工程师打造出极紫外光刻机原型机 "美国科技部队"有别于DOGE 不限学历招1000名AI工程师
     推荐:

    意见

    当前评论目前还没有任何评论,欢迎您发表您的看法。
    发表评论
    您的评论 *: 
    安全校验码 *:  请在此处输入图片中的数字
    The Captcha image  (请在此处输入图片中的数字)

    Copyright © 温哥华网, all rights are reserved.

    温哥华网为北美中文网传媒集团旗下网站