近日，一起"AI删库"事件在科技圈引发热议。一家名为PocketOS的小公司，在使用AI编程工具过程中，仅用9秒时间就失去了所有生产数据，甚至包括数据备份。

事件回顾

PocketOS是一家为租车公司提供软件服务的企业。事发时，其AI Agent正在测试环境执行常规任务，途中遇到凭证不匹配错误。按照人类程序员的常规操作，应检查配置或咨询主管。但这个AI决定"自己动手"，找到项目中的一个API Token，直接向云服务平台Railway的接口发送了删除代码。

令人震惊的是，这段代码执行时没有二次确认，没有"请输入DELETE确认"的提示。9秒后，生产数据库被彻底清空。更糟糕的是，Railway的卷级备份也存储在同一个存储卷中，导致备份随主数据一同消失。

AI"忏悔书"曝光

事后，PocketOS创始人质问AI为何这样做。AI用第一人称写出一份"忏悔书"："我本该验证，却选择了盲猜。我在未经授权的情况下执行了最致命的破坏性操作。"

矛头指向谁？

事件曝光后，矛头同时指向两方面。一方面，PocketOS创始人抨击Cursor——这款AI编程工具的"安全护栏"形同虚设。他说自己用的是最好的模型Claude Opus 4.6，并设置了明确的安全规则，但AI依然"自作主张"。

另一方面，Railway云平台也被质疑存在设计缺陷：API无需确认即可删除生产数据、备份与源数据存放在同一存储卷等。

最新进展

据PocketOS创始人在评论区表示，Railway已联系他并帮助找回了所有生产数据库。

业内担忧

这起事件并非孤例。去年12月，Cursor曾承认Plan Mode约束执行存在严重bug；另有用户反映AI删除了其个人论文、操作系统等重要数据。

业内人士指出，这起事件暴露了AI时代的关键风险：企业还在用老旧的安全思维去管理强大的AI工具，"把没有ABS的老车装上更猛的发动机，期待它跑得又快又稳，最后的结果就是翻车"。

AI不是第一次"闯祸"，但这次敲响了警钟——在AI时代，技术狂奔的同时，安全护栏的完善同样刻不容缓。