Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
强模型也挡不住脏上下文、坏工具、模糊产品边界。先看失败样例。
主要是用户追问很多轮后，模型开始忘记前面确认过的条件。
那是会话状态问题，不一定是模型能力问题。
GPT/Claude 的优势是指令跟随、复杂推理和通用能力，但生产要靠系统设计把能力接住。
我们也经历过。换强模型后错误少了，但剩下的错误更隐蔽，因为回答更像真的。
更强模型不是应该少幻觉吗？
通常会好一些，但不会归零。尤其遇到缺失资料、冲突资料、工具返回错误时。
还有合规。海外模型强，但不是每份数据都能传。
线上要有降级和确认机制。涉及金额、合同、人事，别让模型一句话直接落动作。
那 GPT/Claude 适合放在哪里？
复杂推理、长指令、多文档综合、高价值任务。低价值高频任务未必划算。
我会把它们当高级工，不当默认水龙头。
我们之前就是所有请求都走强模型，成本也炸。
先做路由和评测。强模型不是架构补丁。
你好！看起来您对这段对话很感兴趣，但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子？您注册账号后，您每次返回时都能精准定位到您上次浏览的位置，并可选择接收新回复通知（通过邮件或推送通知）。您还能收藏书签、为帖子顶，向社区成员表达您的欣赏。
有了你的建议，这篇帖子会更精彩哦 💗
