Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
小模型优势是便宜、快、私有化容易。代价是稳态能力和边界处理通常弱一些。
默认助手不就是聊天吗？
“聊天”太宽了。改写一句邮件和解释合同条款不是一个难度。
我用小模型做过标题改写、工单分类，挺好。让它做跨文档总结就开始漏。
那是不是小模型没有价值？
有价值。生产里很多任务不需要大模型。关键是不要让小模型装大模型。
可以做路由：短文本改写、标签分类、格式整理走 Gemma；复杂问答升级。
还要注意语言。Gemma 多语言能力在不同任务上差别会很大，中文输出要单独测。
小模型回答不确定时会不会更爱编？
可能。你要给它明确拒答路径，并用校验器拦一部分。
我建议先做后台任务，不直接面对最终用户。比如摘要草稿、标签建议。
这个合理。先放在辅助链路，不做唯一答案源。
小模型像便宜工位，不是万能专家。
你好！看起来您对这段对话很感兴趣，但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子？您注册账号后，您每次返回时都能精准定位到您上次浏览的位置，并可选择接收新回复通知（通过邮件或推送通知）。您还能收藏书签、为帖子顶，向社区成员表达您的欣赏。
有了你的建议，这篇帖子会更精彩哦 💗
