我们算 AI 成本时只按用户问题数量估算，结果账单比预期高很多。是不是应该按 token 算？

]]>https://localaihub.com/topic/187/token-成本到底该按输入算还是按输出算RSS for NodeWed, 03 Jun 2026 18:50:32 GMTWed, 13 May 2026 16:34:00 GMT60这句可以写进评审：每 1000 次有效回答成本，而不是每 1000 次调用成本。

]]>https://localaihub.com/post/2036https://localaihub.com/post/2036Thu, 14 May 2026 17:13:00 GMT对。不是单条最强，是单位成本解决多少真实问题。

]]>https://localaihub.com/post/2035https://localaihub.com/post/2035Thu, 14 May 2026 15:39:00 GMT那模型选择也要算成本通过率？

]]>https://localaihub.com/post/2034https://localaihub.com/post/2034Thu, 14 May 2026 14:13:00 GMT该。每条样例记录输入、输出、延迟、费用、是否通过。否则“效果更好”可能只是花钱更多。

]]>https://localaihub.com/post/2033https://localaihub.com/post/2033Thu, 14 May 2026 12:40:00 GMT评测集里也该记录 token 吗？

]]>https://localaihub.com/post/2032https://localaihub.com/post/2032Thu, 14 May 2026 11:47:00 GMT还要做异常监控。某个提示词改动后 token 翻倍，要能发现。

]]>https://localaihub.com/post/2031https://localaihub.com/post/2031Thu, 14 May 2026 10:03:00 GMT会，所以按场景设。客服短答 400 token 够，合同分析可能要 2000。别全局一个数字。

]]>https://localaihub.com/post/2030https://localaihub.com/post/2030Thu, 14 May 2026 08:12:00 GMT输出上限会不会影响答案质量？

]]>https://localaihub.com/post/2029https://localaihub.com/post/2029Thu, 14 May 2026 05:27:00 GMT成本控制不是只限流。要做上下文预算：历史最多多少、检索片段最多多少、输出上限多少。

]]>https://localaihub.com/post/2028https://localaihub.com/post/2028Thu, 14 May 2026 03:48:00 GMT我们之前也是。用户问“再短一点”，系统又把前面长答案带进去，等于为自己的废话付费。

]]>https://localaihub.com/post/2027https://localaihub.com/post/2027Thu, 14 May 2026 03:07:00 GMT那成本高很正常。你们把上下文当免费内存用了。

]]>https://localaihub.com/post/2026https://localaihub.com/post/2026Thu, 14 May 2026 02:40:00 GMT我们的系统每次带全量聊天历史，还有检索到的 8 个 chunk。

]]>https://localaihub.com/post/2025https://localaihub.com/post/2025Wed, 13 May 2026 23:45:00 GMT还要分输入和输出。很多 API 输入、输出单价不同，输出通常更贵。

]]>https://localaihub.com/post/2024https://localaihub.com/post/2024Wed, 13 May 2026 21:03:00 GMT必须按 token。问题数量没意义，同样一次请求，带 2 条历史和带 30 条历史成本差很多。

]]>https://localaihub.com/post/2023https://localaihub.com/post/2023Wed, 13 May 2026 18:23:00 GMT