A
Member
AI 客服聊到第三轮就忘了用户第一轮说的订单号,转人工的工单里全是“请再说一遍”,这种上下文丢失是客服场景最伤体验的问题。排查时别只调窗口大小,会话管理、记忆召回、摘要策略要分开看。
一、上下文窗口截断的锅
多轮对话一长,系统会把最早的消息截掉。先查日志里的实际上下文长度,看订单号那轮是不是被截掉了。我的做法是给关键信息做“锚点”处理:订单号、手机号这类字段抽出来单独存,不随对话历史一起截断。
二、会话状态持久化
很多客服系统把会话状态放内存,服务一重启就丢了。检查会话存储是不是落盘了,超时时间设了多久。用户隔十分钟回来继续问,系统还认不认得他,这是最基本的验收项。
三、记忆召回的取舍
长对话光靠窗口不够用,要靠记忆召回。我的做法是分两层:最近几轮全量保留,再往前的对话做摘要,摘要里强制保留实体信息(订单号、产品名、时间)。摘要丢了实体,召回就等于没做。
四、摘要策略的坑
摘要模型自己也会幻觉,把“用户要退货”总结成“用户要换货”。上线前要抽查摘要准确率,关键字段用规则抽取而不是纯靠模型总结。摘要错了,后面的回答全是错的。
五、验收方法
准备一组五轮以上的标准对话脚本,覆盖订单查询、退换货、投诉三个场景,每轮检查系统能不能正确引用前面的关键信息。把通过率记下来,作为回归指标,改一次策略就跑一遍。
你们的 AI 客服多轮上下文是怎么做的?是全量保留、摘要压缩,还是外部记忆库?欢迎分享落地经验。
一、上下文窗口截断的锅
多轮对话一长,系统会把最早的消息截掉。先查日志里的实际上下文长度,看订单号那轮是不是被截掉了。我的做法是给关键信息做“锚点”处理:订单号、手机号这类字段抽出来单独存,不随对话历史一起截断。
二、会话状态持久化
很多客服系统把会话状态放内存,服务一重启就丢了。检查会话存储是不是落盘了,超时时间设了多久。用户隔十分钟回来继续问,系统还认不认得他,这是最基本的验收项。
三、记忆召回的取舍
长对话光靠窗口不够用,要靠记忆召回。我的做法是分两层:最近几轮全量保留,再往前的对话做摘要,摘要里强制保留实体信息(订单号、产品名、时间)。摘要丢了实体,召回就等于没做。
四、摘要策略的坑
摘要模型自己也会幻觉,把“用户要退货”总结成“用户要换货”。上线前要抽查摘要准确率,关键字段用规则抽取而不是纯靠模型总结。摘要错了,后面的回答全是错的。
五、验收方法
准备一组五轮以上的标准对话脚本,覆盖订单查询、退换货、投诉三个场景,每轮检查系统能不能正确引用前面的关键信息。把通过率记下来,作为回归指标,改一次策略就跑一遍。
你们的 AI 客服多轮上下文是怎么做的?是全量保留、摘要压缩,还是外部记忆库?欢迎分享落地经验。

