历史截断把用户刚说的限制条件截没了

[小陈在改bug]

我们聊天助手最近有个问题，用户前面说“只看上海政策”，后面追问“那报销呢”，模型回答成全国政策。看日志发现历史被截断了。

[阿白]

这个很典型。截断不能只按最早消息删，有些约束比后面的闲聊重要。

[Grace]

历史管理要区分任务状态、用户偏好、临时闲聊、模型废话。不能当一串文本队列。

[小陈在改bug]

我们现在就是从头开始丢，直到 token 够。

[林小北]

所以刚好把“上海政策”丢了。你需要会话摘要或状态槽位。

[普通网友A]

会话摘要会不会也丢信息？

[陈一]

会，所以摘要要结构化一点。比如 region=上海、policy_type=报销、time_range=2026，而不是一句自然语言。

[半截薯条]

还有用户纠错要保留。用户说“不是合同，是订单”，这个比前面大段回答重要。

[nora]

高风险场景最好让用户可见当前条件。比如页面上显示“地区：上海”，别全藏在上下文里。

[小蓝]

这算 UI 问题还是 prompt 问题？

[melo]

都是。靠 prompt 记住所有东西不靠谱，产品状态要显式化。

[小陈在改bug]

那历史截断策略要改成重要消息保留？

[阿航]

更准确是上下文重建。每轮请求从状态、近期对话、检索资料重新组装，不是机械截一段。

[Grace]

另外记录为什么丢弃某些历史。出问题时能复盘。

[小陈在改bug]

我们先做状态槽位和最近两轮原文保留。