Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
我跑过 Llama 做英文技术文档摘要,很顺。中文合同条款就一般。
这个很正常。模型选型要按语料和任务,不按“谁更有名”。
Llama 的 license 也要看吗?
要。开源不等于无限制商用。用前看官方许可和模型卡。
还有量化版本来源。不要随便下一个社区 gguf 就上生产,先确认来源、量化方法、校验文件。
本地部署最大好处是数据不出内网,但别把“本地”理解成“可靠”。
我们就是为了私有化。
那把 Llama 放进私有化候选没问题,同时测中文准确率、拒答、长上下文和速度。
还要测并发。单次回答好,不代表给团队用体验好。
如果中文是核心,别只测英文 benchmark。
明白,生态强归生态强,中文业务另算。
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。
有了你的建议,这篇帖子会更精彩哦 💗