Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
先别急分摊,先把成本按应用、用户、模型、场景打出来。
没有明细,分摊一定吵架。
业务方会不会因此不敢用?
所以要同时给优化建议。比如缓存、短回答、小模型路由、批处理。
成本也要看价值。一个高 Token 任务如果替代了半小时人工,不一定贵。
免费额度要不要给?
可以,但要防止滥用和敏感数据乱传。成本治理和数据治理要一起做。
我们现在最贵的是长文总结,不是聊天。
那就按任务类型看。不要只看总 Token。
我准备先做仪表盘,不急着收费。
对。先让大家看见成本,再谈责任。
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。
有了你的建议,这篇帖子会更精彩哦 💗