分享个事故。我们让 agent 整理活动数据发群，它把测试环境截图也发进客户群了。客户问“这些 0 元订单是什么”。

]]>https://localaihub.com/topic/122/失败复盘-agent-把测试环境数据发进客户群RSS for NodeWed, 03 Jun 2026 20:31:34 GMTFri, 08 May 2026 05:47:00 GMT60这个改法对。事故不是为了证明 agent 不行，是为了把不可逆动作收回来。

]]>https://localaihub.com/post/1116https://localaihub.com/post/1116Sat, 09 May 2026 09:55:00 GMT我们现在外发动作全改成人审，agent 只生成草稿和证据清单。

]]>https://localaihub.com/post/1115https://localaihub.com/post/1115Sat, 09 May 2026 09:18:00 GMT还有演练。拿 staging 故意做相似页面，看 agent 会不会拦住。

]]>https://localaihub.com/post/1114https://localaihub.com/post/1114Sat, 09 May 2026 06:51:00 GMTPrompt 可以补一句“发送前确认环境”，但只能当最后一层提醒。

]]>https://localaihub.com/post/1113https://localaihub.com/post/1113Sat, 09 May 2026 04:01:00 GMT复盘要改三层：环境隔离、发送确认、日志脱敏。只改 prompt 没用。

]]>https://localaihub.com/post/1112https://localaihub.com/post/1112Sat, 09 May 2026 03:12:00 GMT这个也中招了。事故复盘文档里贴了原图，后来才打码。

]]>https://localaihub.com/post/1111https://localaihub.com/post/1111Sat, 09 May 2026 00:44:00 GMT日志里有完整截图吗？注意二次泄漏。

]]>https://localaihub.com/post/1110https://localaihub.com/post/1110Fri, 08 May 2026 23:47:00 GMT我们做了 data_classification：测试、内部、客户可见。发送工具只接受客户可见材料。

]]>https://localaihub.com/post/1109https://localaihub.com/post/1109Fri, 08 May 2026 21:22:00 GMT还有工具层禁止 staging 数据流向外部渠道。不要指望模型识别“这个不能发”。

]]>https://localaihub.com/post/1108https://localaihub.com/post/1108Fri, 08 May 2026 19:32:00 GMT消息发送工具必须高风险。让 agent 生成草稿可以，真正发送要人点确认。

]]>https://localaihub.com/post/1107https://localaihub.com/post/1107Fri, 08 May 2026 17:13:00 GMT人也会错，只是 agent 错得更快。发外部群之前应该有确认页，显示来源环境和接收方。

]]>https://localaihub.com/post/1106https://localaihub.com/post/1106Fri, 08 May 2026 16:32:00 GMT有，但在顶部小角落。截图里其实能看到 staging。

]]>https://localaihub.com/post/1105https://localaihub.com/post/1105Fri, 08 May 2026 14:42:00 GMTUI 上有环境标识吗？

]]>https://localaihub.com/post/1104https://localaihub.com/post/1104Fri, 08 May 2026 12:16:00 GMT是。工具里有 prod 和 staging 两个后台，名字很像。agent 截图时没意识到环境错了。

]]>https://localaihub.com/post/1103https://localaihub.com/post/1103Fri, 08 May 2026 09:29:00 GMT先说结论，这不是模型笨，是权限和环境隔离没做好。

]]>https://localaihub.com/post/1102https://localaihub.com/post/1102Fri, 08 May 2026 06:26:00 GMT