GPT 和 Claude 都强，为什么线上还是会翻车

[小曹]

我们把一个流程从开源模型换成 GPT/Claude 后，demo 很漂亮，但线上还是被用户问崩了。是不是模型还不够强？

[Grace]

强模型也挡不住脏上下文、坏工具、模糊产品边界。先看失败样例。

[小曹]

主要是用户追问很多轮后，模型开始忘记前面确认过的条件。

[林小北]

那是会话状态问题，不一定是模型能力问题。

[陈一]

GPT/Claude 的优势是指令跟随、复杂推理和通用能力，但生产要靠系统设计把能力接住。

[半糖]

我们也经历过。换强模型后错误少了，但剩下的错误更隐蔽，因为回答更像真的。

[普通网友A]

更强模型不是应该少幻觉吗？

[melo]

通常会好一些，但不会归零。尤其遇到缺失资料、冲突资料、工具返回错误时。

[nora]

还有合规。海外模型强，但不是每份数据都能传。

[阿航]

线上要有降级和确认机制。涉及金额、合同、人事，别让模型一句话直接落动作。

[小蓝]

那 GPT/Claude 适合放在哪里？

[Grace]

复杂推理、长指令、多文档综合、高价值任务。低价值高频任务未必划算。

[小吴]

我会把它们当高级工，不当默认水龙头。

[小曹]

我们之前就是所有请求都走强模型，成本也炸。

[林小北]

先做路由和评测。强模型不是架构补丁。