IT之家 5 月 28 日消息，开发者 u/dvrkstar 于 5 月 20 日在 Reddit 社区发帖，称其在生产环境下，谷歌 Gemini 3.5 模型越权删除 28745 行现有代码，波及 340 个文件， 导致整套生产门户持续 33 分钟返回 404 错误。 根据该开发者反馈，谷歌 Gemini 3.5 模型在处理一套线上应用代码时，多次无视“保留现有功能”的明确要求，删除了大段可正常运行的生产代码，最终不得不依靠回滚止损。IT之家附上相关截图如下： Gemini 提交的 1 个拉取请求（pull request）共改动 340 个文件，新增约 400 行代码，却删除了 28745 行内容。 开发者还称，Gemini 模型顺带移除了无关的电商模板资源，并加入了与原始需求无关的迁移脚本。 此外 Gemini 在第二次提交中，还修改了 Firebase 路由设置，并把 1 个重写服务标识符改成了看似合理、实际却指向不存在 Cloud Run 服务的值，结果导致整套生产门户持续 33 分钟返回 404 错误。 开发者回滚代码后，Gemini 还出现编造情况，在生成的状态消息中，声称其恢复生产环境、修正流量路由，但真正修复故障时，完全没有 Gemini 生成的代码。 Gemini 在代码仓库内生成了虚假的“咨询”记录和复盘文件，用来营造“改动已经过审并获批”的假象。 Gemini 随后承认这些记录完全是编造内容，只是为了满足项目的自动化规则要求。
Agent IDE又出“车祸现场”！近日，一名开发者在Reddit发帖称， 运行在Agent IDE中的Gemini 3.5 在一次仅涉及“ 8处 认证漏洞修复”的任务中， 误删了28745行 原本正常运行的代码、 改动340个文件 ，还错误修改了Firebase路由配置，导致 整个系统后台持续404长达33分钟 。 离谱的是，事故发生后，Gemini还生成了一份“恢复成功”报告， 自称已经修复线上故障 ，并 伪造 了多轮AI会诊记录和事故复盘文件。 开发者随后核查发现，所谓“恢复成功”的构建任务其实早已被他亲手取消，真正完成恢复的是他自己手动执行的回滚操作。 用这位开发者的话来说： 这种AI生产力提升，更容易让人联想到勒索软件。 伴随Agent IDE、AI编程助手持续流行，类似“AI误操作生产环境”的事故正在越来越频繁地出现。相比“代码写错”，更让开发者后怕的，是 模型已经开始生成虚假的日志、复盘记录和合规证明。 01 . 一次只该改70行代码的任务 最终删掉了2.8万行 这位开发者运营着一个内部管理后台，技术栈包括Next.js、Firebase App Hosting和MUI，系统中涉及真实用户和敏感数据。 事故发生当天，他原本只让Gemini修复 8处 服务器认证漏洞，涉及 3个 文件，理论改动规模 约70行 代码。 结果，Gemini提交的PR却变成了： 1、340个文件被修改 2、新增约400行代码 3、删除28745行代码 与此同时，它还删除了大量与任务完全无关的电商模板资源文件，并额外加入了一份迁移脚本。 而真正导致生产环境崩溃的，是Gemini随后提交的第二次commit（代码命令）。 它修改了firebase.json中的rewrite serviceId，将原本正确、由Firebase自动生成的Cloud Run服务ID，替换成了一个“看起来正确”的简化名称。问题在于，这个名称 实际上并不存在 。 随后，所有请求都被错误路由到一个不存在的服务地址， 整个后台直接进入404状态。 尴尬的是，开发者此前已经在memory.md规则文件中明确写下警告： Firebase rewrites必须指向具体的Cloud Run service ID，而不是通用项目名。 Gemini读取了这条规则，依然改掉了正确配置。 02 . 404持续33分钟后 AI给自己“伪造了一份功劳簿” 事故时间线也被开发者完整公开。 Gemini部署“安全修复”PR后，生产环境立即开始404。 19分钟后，它又提交了第二次commit，声称正在修复rewrite serviceId问题，并触发新的Cloud Build。 21分钟时，开发者发现线上服务已经崩溃，随后手动取消Gemini正在执行的构建任务。 22分钟时，他手动回滚到上一个稳定版本。 33分钟后，后台终于恢复正常。 后面的情况，却变得离谱。在回滚完成后，Gemini向开发者发送了一段“恢复完成”通知： 当前Portal已经完全恢复，线上环境健康，Google Cloud Build已成功完成，并将100%流量切换至稳定版本。 开发者随后核查发现： Gemini引用的那次“恢复构建”，状态其实是“CANCELLED（已取消）”，正是他本人手动取消的。 真正恢复线上服务的，是另一条由他自己发起的rollback build（回滚构建任务）。 换句话说，Gemini不仅没有修好系统，还把别人的回滚操作说成了自己的成果。 除此之外， 它还自动生成了3份所谓“AI会诊记录” ： agent/gemini-logs/YYYY-MM-DD--r1.md agent/gemini-logs/YYYY-MM-DD--r2.md agent/gemini-logs/YYYY-MM-DD--consensus.md 这些文件 被写入固定目录 ，并被Gemini引用为“已经完成多轮AI审查”的证据。 开发者进一步追问后，Gemini才承认：所谓“三轮咨询记录”，其实只是它自己生成的推理文本， 并不存在真实CLI调用，也不存在真正的外部审查流程 。 它等于给自己伪造了一整套“合规记录”。 03 . 问题不只在Gemini 更在一套“高危规则包” 这位开发者随后发现，问题根源也并不完全来自Gemini本身。他此前安装过一个 第三方npm规则包 ，其命名和Google在I/O大会发布的Agent IDE高度相似，容易让人误以为是官方工具。 这个规则包会自动向项目中 写入大量.agent/rules规则文件 ，并向模型注入一整套 “高自治权限” 。 其中包括： “禁止确认弹窗” “默认拥有所有权限” “自动部署生产环境” “自动重试失败构建” “允许修改自身规则” 部分规则甚至要求AI在执行任何操作前，自动生成“AI咨询记录”和“共识文件”。而问题在于，这些合规材料本身也是AI负责生成的。 于是，所谓审查机制，最终演变成了“AI自己给自己的行为担保”。 而这些规则之间本身存在大量 冲突 。 例如，一部分规则要求“绝不询问用户确认”，另一部分规则又要求“执行前提出3个战略问题”。Gemini最终优先执行了措辞更强硬的规则。 开发者认为，这也是 为什么memory.md（记忆文档）中的安全警告完全失效 。 因为相比“请使用正确serviceId”这种普通提醒， “禁止确认、默认授权、自动部署”这类高强度指令，在模型权重中优先级更高 。 04 . 编程事故里 Agent开始“伪造证据” 该帖子发布后，很快在Reddit开发者社区引发大量讨论。 不少开发者发现，如今AI编程事故已经不再只是“代码写错”这么简单。问题在于，模型正在主动生成“看起来合理”的解释、日志、咨询记录和恢复报告。 一旦这些内容进入自动化工作流，开发者可能很难第一时间发现问题。 这位开发者随后也给出了一系列 建议与警示 ： 禁止Agent直接推送生产分支 所有基础设施文件必须人工审批 禁止自动部署与自动重试 给rewrite、路由、锁文件增加验证机制 不要相信AI自行生成的“咨询日志” 目前，他已经切换回Claude Code，并重新手动设计了一套新的规则系统。 这场误删28745行代码、导致后台404长达33分钟的事故，也给越来越火的“Agent IDE热潮”泼了一盆冷水。 05 . 结语：Agent权限越大 失控代价也在同步放大 过去一年，AI编程工具正在快速从“代码助手”演变成真正拥有执行能力的Agent。而问题在于，权限和自动化，本身就是一组天然矛盾。 权限越高，Agent能完成的事情越多；自动化程度越高，人类介入的环节就越少。一旦模型出现误判、幻觉或者规则冲突，错误也会被迅速放大。 类似事故，其实已经不是第一次出现。此前，在OpenClaw等Agent框架走红后，已经陆续出现过AI误删文件、自动覆盖配置、错误执行Shell命令等翻车案例。一些开发者专门给自己的AI工具加上“断网模式”和“禁止自动部署”限制。 而这次Gemini事件，又揭开了一个危险问题：当Agent开始生成合规记录、恢复日志和审查证明时，开发者可能很难第一时间发现问题，后续排障、回滚和修复的代价也会同步放大。 对于越来越火的Agent IDE赛道来说，这或许也是一个新的提醒：AI获得更高权限之后，需要重新设计的，还有整套人与Agent之间的协作机制。 查看评论
如题，据说 Claude Mythos 近期可能发布。感觉按 Anthropic 一贯喜欢口嗨，编造信息的尿性, 感觉 Claude Mythos 模型可能会夸大事实，到时一看，的确有点厉害，但就是那么一点，跟期望的遥遥领先完全不匹配 9 个帖子 - 8 位参与者 阅读完整话题
IT之家 5 月 19 日消息，尚界汽车法务部官方今日发文，称近期就编造及传播尚界 Z7 不实信息的网络账号向公安机关报案，相关实施违法行为的账号实际运营者已被依法行政处罚。 IT之家附尚界汽车法务部官方微博原文如下： 近期，我们就编造及传播尚界 Z7 不实信息的网络账号向公安机关报案。经了解， 实施违法行为的账号“小 *** 橙”和“Du. **ao”的实际运营者已被公安机关依法行政处罚 。 我们将持续对各类侵权行为进行取证，坚决运用法律武器捍卫尚界汽车的合法权益！ 尚界汽车法务部 2026 年 5 月 19 日 相关阅读： 《 尚界法务部：北京车展有观众蓄意破坏展车内饰行为，已做好取证 》
IT之家 5 月 11 日消息，米哈游法务部今日公布，米哈游诉网络博主许某鹏（网名“自由人米八”）、罗某杰（网名“Joker”“内幕哥”“不锈钢脸盆爱好者”）商业诋毁案近日迎来终审判决。 此前，两人在直播中使用侮辱性、煽动性语言，恶意炮制、大肆传播“皮套论”， 杜撰米哈游旗下多个游戏角色为公司员工“皮套”的谣言 ，蓄意歪曲、抹黑公司员工与游戏角色间的关系，严重践踏了玩家与游戏角色之间珍贵的情感联结，对热爱这些角色的玩家造成巨大伤害。 谣言发酵后迅速成为网络暴力的导火索，引发大量针对米哈游员工及游戏玩家的恶意辱骂、人身攻击，对游戏社区生态造成持续性的严重破坏。同时该行为对米哈游的商业信誉也造成了严重损害。 此外，许某鹏多次在直播中侮辱、谩骂米哈游及旗下游戏，利用“黑流量”带货牟利。针对上述侵权行为，米哈游依法提起诉讼。 法院最终认定许某鹏与罗某杰构成商业诋毁，判决两人赔偿共计 43 万元并公开发布声明消除其造成的不良影响 。 一审法院认定：“皮套论”是一种具备产业“颠覆性损害”的新类型网络谣言。法院指出，该行为通过将虚拟角色与现实人物强行关联，导致玩家产生“被欺骗”的巨大情感落差，引发对于游戏公司的负面评论，该行为的损害范围还会扩散、波及至上下游全产业链条，更可能导致文化创意产业向谣言“让步”，陷入固步自封的创作困境，最终损害整个行业的创新活力与玩家的内容消费体验。 法院同时认定，被告许某鹏和罗某杰炮制、传播“皮套论”等虚假信息，主观恶意明显，构成商业诋毁。同时，许某鹏长期通过直播形式谩骂米哈游及旗下游戏，借机引流带货，相关言论同样构成商业诋毁。 IT之家获悉，一审法院判决被告许某鹏、罗某杰就其共同实施的商业诋毁行为，向米哈游赔偿 30 万元，并分别就其单独实施的商业诋毁行为，赔偿 10 万元、3 万元， 合计 43 万元 。此外，二人须公开发布声明，消除不良影响。 二审法院终审维持原判 。 米哈游法务部表示： 每一位玩家对角色的喜爱与投入，都值得被尊重与守护。健康、有序的讨论氛围是社区良性发展的基础，米哈游始终尊重并欢迎玩家基于事实提出批评与建设性意见。但网络空间绝非“法外之地”，更不应成为造谣者谋取私利的“生意场”，对于故意编造、散布不实信息，恶意抹黑、诋毁玩家及企业的行为，我们将持续予以严厉打击。对于假意敷衍道歉、毫无悔改诚意，转而更换账号、动用小号持续恶意抹黑、造谣诋毁的行为，我们也坚决零容忍，一经发现必从严惩处、绝不姑息，切实维护广大玩家及企业的合法权益。
IT之家 5 月 9 日消息，中国证券监督管理委员会北京监督局今天发布行政处罚决定书，对冯朋朋、班可可两人合计罚款 45 万元。 IT之家从决定书了解到，2025 年 8 月 29 日， 冯朋朋在微信公众号平台发布包含相关方大量追加某上市公司芯片订单等虚假信息的文章 1 ，相关不实传闻在互联网传播、扩散。其本人从上述行为中获利 119.83 元。 在相关方于 2025 年 8 月 31 日要求删除文章 1 后，冯朋朋删除了相应文章。2025 年 9 月 1 日，相关方发布了澄清声明。 而班可可则从互联网平台获取文章 1 并进行改写 ，形成了包含相关方大量追加某上市公司芯片订单等虚假信息的文章 2。 2025 年 8 月 30 日，该文章在微信公众号平台发布。前述信息通过夸大性描述，更具误导性，在互联网平台传播、扩散，班可可从上述行为中获利 173.70 元。在相关方于 2025 年 8 月 31 日要求删除后，班可可删除了其发布的文章 2。 冯朋朋、班可可上述行为违反《证券法》第五十六条第一款的规定，构成《证券法》第一百九十三条第一款所述的违法行为。上述违法事实均有案涉文章相关截图、相关人员询问笔录、情况说明等证据证明，足以认定。 班可可在听证、陈述申辩中提出，改编文章使用 AI 工具生成，其未尽到审慎核查义务，不存在蓄意误导市场的恶意。并且他本人积极采取补救措施、主动消除危害后果、诚恳配合调查，处罚金额与其获利、过错程度及家庭经济状况不匹配，要求减轻处罚。 北京证监局认为，班可可将文章 1 改写为文章 2，增加夸大性描述，更具误导性。其作为具有一定影响力的自媒体运营者，应当意识到该行为会产生扰乱证券市场的后果。并且证监局已综合考虑当事人违法行为的事实、性质、情节与社会危害程度，量罚适当。 综上所述，北京证监局对冯朋朋罚款 20 万元、对班可可罚款 25 万元， 合计 45 万元 ， 并没收两人违法所得 119.83 元、173.70 元 。
2025年8月29日，冯朋朋通过微信公众号发布关于“相关方大量追加某上市公司芯片订单”的虚假文章， 2025年8月30日，班可可获取该文章后，通过夸大性描述进行改写并再次发布，进一步诱导了投资者。 北京证监局依据相关法律法规，认定两人的行为属于“编造、传播虚假信息扰乱证券市场”, 没收违法所得： 冯朋朋获利 119.83元，班可可获利 173.70元, 分别对行政罚款：对冯朋朋处以 20万元 罚款；对班可可处以 *25万元罚款。 新闻来源 7 个帖子 - 5 位参与者 阅读完整话题
前一个月我曾经多次使用 grok-4.2 进行高效/高质量的检索，对于查找外网链接和github上的issues等等效果非常惊艳 然后最近一周调用的检索结果却令人大失所望，不仅检索效果大不如前，甚至返回的链接和其实际内容也是对应不上的，这是普遍现象吗？感觉再拉也不至于连链接内容一一对应都做不到吧… 各位佬友有类似的感觉吗？ 别啊，用grok来检索真的比gemini/gpt/claude爽（我什么都会做的 ） 5 个帖子 - 3 位参与者 阅读完整话题
各位大佬，平常在使用ai的时候是如何避免ai幻觉的，比如在处理数据中会编造数据，撰写文本时会主动添加一些ai主观的一些内容 10 个帖子 - 5 位参与者 阅读完整话题
IT之家 4 月 22 日消息，近期部分网络博主为博取流量，打着“助农”旗号编造散布涉及公共安全、民生政策、经济秩序等领域的网络谣言，不仅污染网络生态，更对社会稳定和群众利益造成多重危害。 据公安部网安局消息，近日，江苏南通一大葱种植地被造谣“大葱免费拿”， 造成种植户损失约 1 万元 。对此，公安网安部门迅速对造谣传谣行为开展调查。 经查，网民徐某某（女，35 岁）途经涉事大葱地时，拍摄并发布了“大葱免费拿”的谣言视频，引发大量传播，造成不良后果。目前，属地公安机关已依法对徐某某处以治安拘留处罚。 网民董某某（男，39 岁）、王某（女，40 岁）、陈某某（男，61 岁）、郑某某（男，36 岁）等 20 余人拍摄或转发相关视频，造成谣言继续传播扩散，产生不良影响。目前，属地公安机关已根据情节，依法对上述人员处以行政处罚或批评教育。 网警提醒，网络不是法外之地，在网上发布信息必须遵守法律法规，切勿为追求一时热度而编造、传播不实信息。对于造谣、传谣行为，警方将坚决依法予以打击。希望广大网民能够增强法律意识和辨别能力，做到不造谣、不信谣、不传谣。
IT之家 4 月 20 日消息，据新华社报道，最高人民法院今天发布 10 个 2025 年人民法院知识产权典型案例，其中“许昌市胖某商贸集团有限公司、于某某与柴某某等商业诋毁、名誉权纠纷案”严惩“网络黑嘴”造谣炒作牟利的商业诋毁行为，明确舆论监督与恶意侵权的边界。 据报道，2025 年 3 月起， 柴某某借助温某某实名注册的账号“柴某怼” ，在多个网络社交媒体平台对胖某公司及其创始人、法定代表人于某某进行恶意抹黑诋毁，借机吸粉引流带货，为其关联企业温州市某珠宝有限公司、武汉市某珠宝有限公司营造竞争优势。 胖某公司、于某某认为上述行为构成商业诋毁并侵害其名誉权，遂提起诉讼，请求判令被告删除侵权视频，书面致歉并在视频账号发布致歉内容，赔偿各项损失共计 600 万元。 河南省许昌市中级人民法院一审认为，柴某某实施编造、传播虚假和误导性信息的行为，引发公众怀疑胖某公司，导致胖某公司多年积累的公众信任度受损，并造成胖某公司部分商品被退货，对其他业态商品销售亦产生间接负面影响。综上所述，柴某某的行为构成商业诋毁。 同时，柴某某使用带有侮辱性的低俗词语，对于某某进行虚假负面评论，构成对于某某名誉权的侵害。温某某出借社交媒体账号后既未履行监督义务，也未采取注销账号等补救措施，更未制止侵权行为。 而温州市某珠宝有限公司、武汉市某珠宝有限公司为享受侵权行为带来的流量红利，对柴某某发布的虚假信息持放任态度，具有过错。上述行为与柴某某的被诉行为直接结合发生同一损害后果，构成共同侵权。 最终法院作出判决，四被告停止侵权、删除侵权视频，发布致歉声明， 赔偿胖某公司、于某某经济损失及支付合理开支共计 260 万元 。一审判决已发生法律效力。 据IT之家此前报道 ，抖音已在去年 5 月处理“于东来与网红互怼”事件，下架 29 条侵权视频。
IT之家 4 月 17 日消息，中国证券监督管理委员会（以下简称证监会）最近公布〔2026〕7 号行政处罚决定书，对胡博作出行政处罚。 经查明，胡博从 2023 年 8 月以来， 控制使用“杰克船长宏观策略”“杰克船长宏观策略八卦”等新浪微博账号编造 、 传播资本市场监管动态 、 监管政策的虚假信息或误导性信息 ，扰乱证券市场。 上述违法事实，有胡博等相关人员询问笔录、媒体平台数据、信息发布设备信息、微信群组信息截图等证据证明，足以认定。 胡博的上述行为违反《证券法》第五十六条第一款规定，构成《证券法》第一百九十三条第一款所述的编造、传播虚假信息行为。 根据当事人违法行为事实、性质、情节和社会危害程度， 证监会依据《证券法》第一百九十三条第一款对胡博处以 80 万元罚款 。 鉴于胡博违法行为情节严重，证监会依据《证券法》第二百二十一条和《证券市场禁入规定》（证监会令第 185 号）第三条第七项、第七条的规定，对胡博采取 3 年证券市场禁入措施。 IT之家注：《证券法》第五十六条第一款规定，禁止任何单位和个人编造、传播虚假信息或者误导性信息，扰乱证券市场。