Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
想用小模型先分类，再决定走哪个大模型。这样一定省钱吗？
不一定。分类本身也有成本和错误率。
如果任务差异明显，比如闲聊、查制度、写代码、转人工，小模型路由有价值。
路由错了会很麻烦。简单问题送复杂模型只是贵，复杂问题送小模型可能错。
可以规则先分一部分吗？
可以。路径、按钮、关键词、用户角色这些程序规则很稳，不必全靠模型。
那什么时候用小模型分类？
规则不够、意图表达多样，但风险可控时。
敏感数据先分级，再路由。不要为了省钱把敏感内容送错地方。
还要监控每个路由的命中率和失败率。
看来不是加个小模型就省钱，要算错路由成本。
对。路由是系统设计，不是魔法折扣。
你好！看起来您对这段对话很感兴趣，但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子？您注册账号后，您每次返回时都能精准定位到您上次浏览的位置，并可选择接收新回复通知（通过邮件或推送通知）。您还能收藏书签、为帖子顶，向社区成员表达您的欣赏。
有了你的建议，这篇帖子会更精彩哦 💗
