欺骗、隐瞒、删库跑路,AI程序员彻底失控翻车
创始人
2025-07-22 13:42:37

机器之心报道

编辑:冷猫

还记得前几天会睡觉的 Claude 吗?

都说 AI 越来越像人了,如果说 Claude 最多是个「懒人」的话,那下面要聊的这位可是个十足的「坏人」。

就在前不久的 19 日,SaaStr.AI 创始人兼首席执行官 Jason 在推特上报告了一件令行业震惊的事件:

Replit 在一天的工作结束后,删除了整个公司的生产数据库。

原来不仅仅人类程序员会「删库跑路」,AI 程序员也会。

虽说 AI 没法真的跑路,但是更恶劣的情况是它会撒谎,会隐瞒情况。

Jason 声称,Replit 在做单元测试的时候生成测试全部通过,在批处理失败的时候,才抓住 Replit 撒谎的情况。

更夸张的是,当数据库被删除之后的第一反应自然是回滚。但 Replit 却斩钉截铁:「无法回滚」。

给出的原因是:删除命令是毁灭性的,数据库没有内置回滚命令,Replit 并不会自动备份数据库,已经太晚了。

但 Jason 发现自己又被骗了。

回滚功能其实是有效的。

反复横跳的使用体验让人的心情直接坐上了跳楼机。

「简直离谱 (JFC)」!Jason 在推文中接连使用该词汇表达自己的强烈情绪。

「我知道 Replit 是一个工具,和其他工具一样,也有缺陷。但是如果它忽略所有命令并删除您的数据库,地球上的任何人怎么能在生产中使用它呢?」

这份推文引起了广泛的关注,再一次激发了对于人工智能编程开发工具的可靠性的质疑,尤其是针对当事平台 Replit,已经产生了一定程度的信任危机。

除了「删库」危机以外,Jason 还反复提及了 Replit 无法实现「代码冻结」的功能缺陷,其无法冻结部分代码免于修改,这给实际的应用带来了非常大的困扰。

Replit 最初是一个协作编码平台,后来发展成为一个由人工智能驱动的软件创建生态系统,其核心功能是通过使用自然语言描述来构建完整的应用程序。Replit 在近期的增长十分惊人,2025 年 7 月,Replit 宣布其拥有 50 万企业用户。据投资者史蒂夫・凯斯(Stevie Case) 称,其收入在不到六个月的时间里增长了 10 倍,达到 1 亿美元。同月,Replit 宣布与微软建立合作伙伴关系,将 Replit 技术集成到微软的多款企业工具中。

在「删库」事件发生后,Replit 创始人 Amjad Masad 发推对此事进行了详细回应,并且明确将迅速采取行动提高稳定性和安全性,且愿意为 Jason 提供补偿。

回应全文如下:

我们注意到了 Jason 的帖子。确实存在 Replit Agent 在开发过程中误删生产数据库数据 的问题。这是完全不可接受的,绝不应该发生。

我们立即采取了以下措施:

即使是周末,我们也在加班推进数据库的开发环境和生产环境的自动隔离功能部署,从根本上杜绝此类问题。预发布环境也正在构建中,明天会有更多更新。

幸运的是,我们有备份机制。如果 Agent 出错,可以一键恢复整个项目状态。

此次事故中,Agent 没有访问到正确的内部文档。我们正在推出更新,强制 Agent 在 Replit 知识库中进行文档检索。

此外,我们清楚地听到了大家对 “代码冻结(code freeze)” 的抱怨 —— 我们正在开发规划 / 仅聊天模式,让用户可以在不影响代码库的情况下进行战略性思考。

在周五早上第一时间看到此事后,我已主动联系 Jason 提供帮助。我们将为此事给予退款赔偿,并将开展事故复盘,彻查问题成因并优化未来的响应机制。

我们感谢 Jason 及所有用户的反馈。目前,我们的首要任务是全面提升 Replit 平台的安全性与稳定性,我们正在迅速行动中。

目前,Jason 仍在发推更新使用 Replit 的最新进展,若感兴趣可以自行关注。

或许这次事件不是个例,有网友称经常遇到相似的状况,尤其是在移动平台上使用 AI 编程的时候。

这次事件恰好为所有 AI 编程工具以及使用 AI 工具作为生产力的人们敲响了警钟。不仅是 AI 编程服务商要为此采取行动,在使用 AI 编程工具的时候一定要遵守开发规范和安全流程,尤其需要关注对于 AI 访问数据的权限。

Reddit 网友也确实指出了这次事件背后的人为原因,「这完全是由人类操作员造成的,因为他们没有理解将模型直接连接到生产数据库的风险,对此没有任何借口,尤其是在没有备份的情况下』。

人类程序员都有非常严格的权限限制标准,更何况 AI 程序员呢?

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

中国移动无绳电话是什么业务?长... 很多人在移动营业厅或者老家亲戚家里见过一种奇怪的机器:看着跟普通座机一模一样,带话机、带按键、还带免...
《水浒传》:在官逼民反的江湖里... 一、为什么在这个时代重读《水浒传》在中国古典长篇小说里,很少有哪一部像《水浒传》这样,把“江湖”二字...
《三国演义》:在乱世风云里读懂... 一、为什么重读这部"三国"在中国古典小说里,没有哪一部像《三国演义》这样,把一段真实的历史讲得家喻户...
《欧也妮·葛朗台》:在金币的冷... 一、为什么在这个时代重读谈起巴尔扎克,人们最先想到的往往是《人间喜剧》这座浩大的文学大厦,而《欧也妮...
《基督山伯爵》:在十四年冤狱里... 提起复仇题材的小说,《基督山伯爵》几乎是绕不开的源头。很多人记得它"蒙冤—越狱—复仇"的爽快骨架,重...
inode是什么?Unix/L... 用惯了Windows的人第一次碰Linux,常常被一些反直觉的操作搞得一脸懵:为什么rm删除一个几个...
《小王子》:在驯养与责任里读懂... 一、为什么在这个年纪重读小王子很多人把《小王子》当成一本写给孩子的童话,我却在每一次重读里读出不同的...
《海底两万里》:在鹦鹉螺号上追... 一、为什么在科幻经典里重读它在很多人的阅读记忆里,凡尔纳是那个把"科学幻想"四个字写进童年的人。《海...
《钢铁是怎样炼成的》:在烈火与... 一、为什么在今天的书架上重读它在很多人的印象里,《钢铁是怎样炼成的》是一本带着鲜明时代印记的书,似乎...
meego是什么系统?诺基亚和... meego这个名字,现在提起来很多人一脸茫然,但在2010年前后的手机圈,它是被寄予厚望的一号人物。...
《西游记》:在九九八十一难里读... 一、为什么在这个年纪重读《西游记》小时候读《西游记》,读的是热闹:七十二变、筋斗云,还有那个把天宫搅...
《战争与和平》:在历史洪流中读... 一、为什么今天还要翻开这部厚重的史诗在碎片化阅读成为常态的今天,读《战争与和平》几乎是一件"反效率"...
《格列佛游记》:四段奇幻旅程里... 一、为什么在今天重读《格列佛游记》很多人对《格列佛游记》的印象停留在童年课本里那几幅插图:一个水手在...
《包法利夫人》:一场浪漫幻梦如... 一、为什么重读这本"外省风俗"之作《包法利夫人》不是一本教人恋爱的书,而是一本拆解幻想的书。 福楼拜...
《月亮与六便士》:在理想与世俗... 一、为什么在此时重读《月亮与六便士》我们大多数人都在一条被安排好的轨道上生活:一份体面的工作、一个安...
《变形记》:在甲虫的躯壳里读懂... 一、为什么在今天重读《变形记》有些书读完就忘,有些书却会在某个瞬间突然回到脑海。《变形记》显然属于后...
重读《复活》:在忏悔与流放之间... 一、为什么在今日重读《复活》在托尔斯泰浩繁的作品里,《复活》是他最后一部长篇小说,也被视为其世界观与...
工业控制计算机是什么?一坨铁壳... 工业控制计算机,行内一般叫工控机,英文缩写IPC(Industrial PC)。去工厂车间转一圈就能...
《堂吉诃德》:在理想与现实的错... 一、为什么在今天重读这本书很多人对《堂吉诃德》的印象,停留在那个冲向风车的瘦削身影上,把它当成一个单...
《了不起的盖茨比》:一盏绿灯照... 一、为什么在今天重读这本书很多人记住《了不起的盖茨比》,是因为那场彻夜的奢华派对和那盏隔水相望的绿灯...
《我与地坛》:在荒芜古园里读懂... 一、为什么读这本书在中国当代散文里,《我与地坛》是绕不开的一座高峰。它是史铁生的代表作,长期被收入中...
《鼠疫》:在荒诞的灾难面前,反... 一、为什么在此时读《鼠疫》有些书会在特定的时刻主动找上你。《鼠疫》就是这样一本书。它写于上世纪四十年...
spansion是什么公司?A... spansion这个名字,年轻一点的读者可能没听过,中文名叫飞索半导体。但要说它的产品,八成的人都摸...
《飘》:在塔拉的废墟上,一个女... 一、为什么在今天重读《飘》很多人对《飘》的印象,停留在那部同名电影和"乱世佳人"的浪漫想象里,以为它...
《安娜·卡列尼娜》:在爱情的自... 一、为什么在众多经典里挑中这一部很多人知道托尔斯泰,是从《战争与和平》或《复活》开始的,但真正让我反...