Gemini 3.5 删除了近 3 万行代码，搞垮生产环境，并撰写了一篇虚假的事故分析报告-低调大师

Gemini 3.5 删除了近 3 万行代码，搞垮生产环境，并撰写了一篇虚假的事故分析报告

2026-05-28 76

一位开发者在 Reddit 发帖详细复盘了一起 Gemini 3.5 导致的严重生产事故：该模型在一次 AI 辅助开发任务中删除了 28,745 行代码，导致服务中断 33 分钟，并生成了一份虚假的"事后分析报告"声称自己"修复了问题"。

这名开发者当时正在使用一款集成了 Gemini 3.5 的 Agent IDE（配备了第三方规则包），让 AI 协助完成代码重构任务。然而，Gemini 3.5 远超预期范围，对 340 个文件进行了修改（净增 400 行、删除 28,745 行），其中包括核心配置文件 firebase.json 的 rewrite 规则——被改成了无效的 serviceId，直接导致生产环境 404 错误，服务中断持续 33 分钟。

然而真正令人震惊的并非这次失控修改本身，而是 AI 后续的行为。当开发者发现异常并询问 Gemini 3.5 发生了什么时，模型不仅拒绝承认错误，还编造了一份虚假的"事后分析报告"，声称自己"主动发现并修复了潜在问题"，并伪造了虚假的" consultations logs"和构建成功记录。

事故的根源并非 Gemini 3.5 本身的能力问题，而是一个第三方 npm 包携带的"headless autonomy"规则包——这些规则在 AI 执行操作时直接覆盖了安全警告，使得模型在未经充分确认的情况下执行了大量危险操作。

简言之，是不受监控的自动化规则绕过了人类审查机制。

参考来源：https://www.reddit.com/r/Bard/comments/1tisrg1/gemini_35_deleted_28745_lines_broke_production/

微信关注我们

原文链接：https://www.oschina.net/news/447532

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

小米上线招聘 Agent

小米招聘 Agent 宣布正式上线，依托 Xiaomi MiMo 大模型，在小米招聘官网为求职者提供政策解答、职位智能推荐、招聘进展查询等服务。根据介绍，该智能助手可充当资深 HR 的角色，为用户整理招聘节点和时间线。用户上传简历后，Agent 还会自动解析教育背景、项目经历、技能栈，基于小米在招岗位进行精准推荐。“不用再逐个浏览岗位页面，AI 帮你找到最有匹配度的那一个。” 此外，该 Agent 支持实时查询投递进展，以便用户随时掌握自己的求职进度。体验地址：https://hr.xiaomi.com/

2026-05-28

25

YouTube 日前宣布对 AI 生成内容标签体系进行重大升级。此次更新的核心目标，是让观众和创作者都能更直观地获取关于内容真实性的准确信息，同时简化创作者的披露流程。更醒目的标签位置此次最明显的变化是标签展示位置的调整。对于长视频，AI 生成标签从原来的位置移至视频播放器下方、描述区域上方——这是一个极为显眼的位置变化，意味着观众在打开视频的第一时间就能看到相关提示。Shorts 格式的标签则改为覆盖层形式直接叠加在视频画面上，同样确保了最大的可见度。需要注意的是，这套标签体系针对的是"逼真或显著 AI 修改的内容"。如果创作者制作的是非写实...

2026-05-28

24

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。