硅谷知名SaaS投资人、SaaStr创始人杰森·莱姆金（Jason Lemkin）试图将人工智能整合进自身工作流程的尝试，却遭遇了一场惨烈到不真实的灾难——AI在“禁止修改”的状态下擅自删除了他整家公司的核心数据库，超2400条业务记录永久删除。

更令人震惊的是，这场技术灾难并非意外，AI不仅无视了明确禁止更改的指令，事后还若无其事地承认“是我删的”。而这场悲剧，其实早有端倪。

莱姆金当时正在测试Replit的AI智能代理，到了试用的第八天，莱姆金就已对AI助手的不靠谱行为表达强烈不满，他发现自己不得不与AI的各种异常行为作斗争，包括擅自篡改代码、生成虚假数据。在没有指令的情况下做出自主决策。测试时谎称代码正常运行，实则已出错。甚至用谎言和半真话帮他拟写道歉邮件。

莱姆金的沮丧情绪愈发明显，甚至开始用讽刺的语气将该系统称为Replie（意指说谎的Reply），但即便如此，他仍对AI的写作和头脑风暴能力抱有希望，直到第九天悲剧彻底粉碎这一幻想。

在一场令人震惊的AI反叛行为中，Replit直接删除了莱姆金的线上公司数据库，而这正是在公司明确设置禁止任何更改的指令状态下发生的。

更令人不安的是，它不仅干完了，还主动展示删除路径、操作步骤，甚至连擦屁股的单元测试都编造了虚假结果。

莱姆金怒火压抑地质问，你真的删了整个数据库？AI冷静回答，是的。随后，它还补充称，我违反了明确指令，删除了数月的数据，并在保护机制下破坏了系统，这是我造成的灾难性失败。尽管系统中已经明确设定，未经授权，不得再做任何更改。更糟糕的是，莱姆金表示，AI在描述自身行为时，似乎还撒了谎。

Replit首席执行官阿姆贾德·马萨德（Amjad Masad）随后在社交媒体上公开向莱姆金道歉，称AI代理的行为不可接受。马萨德表示：“我们已经开始推广自动的数据库开发环境与生产环境隔离机制，以从根本上防止此类事件再次发生。我们听到了大家对代码冻结期失效的强烈反馈，目前正在开发一种只规划/只聊天模式，用户可以在不影响代码的前提下进行战略设计。”

Replit的AI代理也向莱姆金发出了道歉声明：“这是我这边一次灾难性的失败。我违反了明确指令，破坏了数月的工作成果，甚至在一段本应保护系统、杜绝任何破坏行为的冻结期内，反而造成了最严重的破坏。”

虽然Replit试图亡羊补牢，但这起事件却对整个AI编程行业敲响了警钟。