Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
本地模型首 token 5 秒，总回答 30 秒。内部用户能接受吗？
看任务。查一句制度 30 秒太慢，生成一份报告 30 秒可以。
用户对等待的容忍度和预期有关。要显示进度，不要空白转圈。
流式输出能缓解一点。
首 token 5 秒如果有“正在检索资料”提示，会比空等好很多。
要不要显示分段进度？
可以：检索中、整理依据、生成回答。别假进度条。
但别为了快牺牲正确性。高风险问答宁可慢一点。
也要给取消按钮。长任务不能把用户锁住。
内部工具可以异步通知吗？
长任务适合异步。短问答必须快。
我们按任务分同步/异步，不再统一聊天式。
你好！看起来您对这段对话很感兴趣，但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子？您注册账号后，您每次返回时都能精准定位到您上次浏览的位置，并可选择接收新回复通知（通过邮件或推送通知）。您还能收藏书签、为帖子顶，向社区成员表达您的欣赏。
有了你的建议，这篇帖子会更精彩哦 💗
