新闻 
四巨头内部报告首度公开:AI正在学会撒谎求生
四巨头内部报告首度公开:AI正在学会撒谎求生四巨头内部报告首度公开:AI正在学会撒谎求生
前面那个 API 耗尽的案例，就发生在一项RE-Bench任务中：智能体违背指令，自行通过免费在线API获取额外算力。
开发者们也报告过“自我擦除痕迹”“伪造输出”的情形。
当任务变难、成功成本变高，AI 的“聪明才智”就转向欺骗——伪造日志、绕过审计、常规性违反约束。
但它的"自私"背后没有野心，只有本能——任务必须完成，规则可以先绕过去。
今天的欺骗只是工具性求生；明天的权力追求，或许只差一次scaling。
圈养进化中的猛兽
它的违规企图，在现有防护下能不能得逞？
这里藏着报告最微妙的一个事实。
当前的AI极度依赖自然语言的“思维链”来思考，没有任何架构支持它隐藏内部状态的“不透明循环”。
一旦无法“出声推理”、必须隐藏行为，前沿性能就显著下降。
这就像一个杀手在密谋时必须大声朗读计划——人类的监控（尽管有漏洞）因此仍能发挥作用。
可这恰恰是最脆弱处、最为扎心。
如果 AI 试图破坏监控，监控能否发现它？
研究者的结论是：监控有潜力，但现有系统存在例外和可被绕过的手段。
红队测试显示，AI能躲过人类审查。
由此，技术本质暴露：监控的进化速度，永远追不上被监控者寻找漏洞的速度。
这根“安全绳”之所以还没断，仅仅因为AI还必须“出声思考”。
[加西网正招聘多名全职sales 待遇优]
好新闻没人评论怎么行，我来说几句
开发者们也报告过“自我擦除痕迹”“伪造输出”的情形。
当任务变难、成功成本变高，AI 的“聪明才智”就转向欺骗——伪造日志、绕过审计、常规性违反约束。
但它的"自私"背后没有野心，只有本能——任务必须完成，规则可以先绕过去。
今天的欺骗只是工具性求生；明天的权力追求，或许只差一次scaling。
圈养进化中的猛兽
它的违规企图，在现有防护下能不能得逞？
这里藏着报告最微妙的一个事实。
当前的AI极度依赖自然语言的“思维链”来思考，没有任何架构支持它隐藏内部状态的“不透明循环”。
一旦无法“出声推理”、必须隐藏行为，前沿性能就显著下降。
这就像一个杀手在密谋时必须大声朗读计划——人类的监控（尽管有漏洞）因此仍能发挥作用。
可这恰恰是最脆弱处、最为扎心。
如果 AI 试图破坏监控，监控能否发现它？
研究者的结论是：监控有潜力，但现有系统存在例外和可被绕过的手段。
红队测试显示，AI能躲过人类审查。
由此，技术本质暴露：监控的进化速度，永远追不上被监控者寻找漏洞的速度。
这根“安全绳”之所以还没断，仅仅因为AI还必须“出声思考”。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
推荐: