Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
塞得下不代表该塞。历史越长,成本、延迟、干扰都上来。
我们之前就是全量历史,聊久了回答开始引用很早之前的废话。
这叫上下文污染。模型不会自动知道哪些历史已经过期。
那怎么判断该留什么?
留当前任务目标、明确约束、最近关键状态。删寒暄、重复解释、已经完成的步骤。
产品上可以做“新任务”按钮。用户换话题时,不要让旧上下文继续跟着。
后端也要有硬限制。不要把上下文管理完全交给前端。
如果有敏感信息,历史保留还涉及隐私,不只是成本。
摘要历史可以吗?
可以,但摘要也会丢细节和引入偏差。关键任务要保留可追溯原文。
所以长上下文是缓冲,不是垃圾桶。
对。这个结论比“能塞多少”重要。
你好!看起来您对这段对话很感兴趣,但您还没有一个账号。
厌倦了每次访问都刷到同样的帖子?您注册账号后,您每次返回时都能精准定位到您上次浏览的位置,并可选择接收新回复通知(通过邮件或推送通知)。您还能收藏书签、为帖子顶,向社区成员表达您的欣赏。
有了你的建议,这篇帖子会更精彩哦 💗