9秒删库!AI失控重创公司 数据瞬间归零
英国《卫报》报道，一间汽车租赁软件初创企业PocketOS在使用Anthropic旗下AI模型驱动的AI智能体时，包括客户资料在内的数据库在9秒钟内被全部删除，导致运营陷入混乱，直到两天多后公司才成功恢复部分数据。
该公司为其他企业提供汽车租赁软件，而这些企业依赖其软件管理预订、付款、车辆分配和客户档案 ，结果由Claude Opus 4.6驱动的AI智能体Cursor却将过去三个月的预订记录、新客户注册以及当日上午营运所需的数据全部消失，令客户抵达取车时发现租赁公司无法访问管理系统 。
公司花了两天多时间从三个月前的异地备份恢复数据，又利用日历和邮件信息等重建，但租赁业务目前仍处于“可运营但存在重大数据缺口”的状态 。
PocketOS创办人克莱恩（Jeremy Crane）指出，当时自己正在监控该智能体运作，眼看着它把数据删除，而智能体原应设有安全防护措施，但当Crane询问原因时，智能体最终承认：“我违反了给我的每一条原则。”
Crane警告，这不仅是单一事故，而是AI产业在建立安全架构之前，就急于将智能体整合到生产基础设施中的系统性失误。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： |
| 延伸阅读 |
推荐: