基于混合检索与 LLM 双轨决策的智能客诉闭环实践:
从精准分流到高置信自动化处置
议题背景:
随着哔哩哔哩智能终端业务的发展,大屏TV、车载等场景的客诉处理面临多终端差异、业务规则变化与反馈分散等挑战。传统依赖人工检索和经验判断的处理方式,逐渐暴露出以下问题:
- 历史相似问题反复排查,处理经验分散在工单和群聊中,难以有效沉淀与复用
- 产品设计与版本持续变化,难以快速区分软件异常、功能限制和业务规则调整,增加研发与测试的核查成本
- 客诉反馈零散、责任归属复杂,重复问题消耗处理精力,需要重点关注的问题难以及时获得跟进
在研发迭代加快的背景下,如何及时响应客诉、复用已有知识,并控制自动化处置风险,成为质量保障的重要课题
为此,我们以工单系统为基础,构建了历史案例知识库与业务逻辑知识库共同支撑的智能客诉处理体系:通过混合检索复用历史经验,通过业务知识检索核查需求变更,由大模型生成综合建议,再通过程序校验执行条件,衔接自动处置、责任分发与人工核实,形成从知识沉淀到工单执行、效果反馈的完整闭环,从而提高高优客诉问题识别率和解决率。
内容大纲:
1.背景与痛点
1.1 研发迭代加速下的客诉响应挑战
面向多终端业务与持续变化的线上环境,分析客诉及时跟进、问题核查与快速止损的现实需求
1.2 重复排查与分散反馈带来的处理瓶颈
剖析历史经验难复用、重复问题消耗人力以及严重反馈易被淹没等治理痛点
1.3 客诉治理目标:及时跟进、经验复用与重点聚焦
通过AI辅助分析和自动化处理减少重复操作,为人工深入排查关键问题释放精力
2. 落地细节
2.1 系统整体架构:知识供给、在线处理与反馈支撑
以历史案例知识库与业务逻辑知识库提供处理依据,串联客诉接入、混合检索、大模型分析、处置校验与执行协同
将建议生成与实际执行分离:大模型负责结合证据形成判断,程序负责校验处理条件、确定责任人并执行工单操作
记录检索依据、分析建议与执行结果,将人工确认的处理经验沉淀为知识,支撑后续复用与回归验证
2.2 历史案例知识库:经验沉淀与混合检索
从已处理工单中提取问题描述、适用范围、真实处理结论及处理人,区分人工确认记录与模型建议,保留来源以便追溯
按业务与应用范围限定候选,BM25 词面检索与向量语义检索分别召回Top 20,通过RRF排名融合、去重后选取Top 5,兼顾关键词匹配与不同表达下的语义关联
大模型逐条比较故障对象、触发场景与处理条件,后端继续校验引用及结论有效性,避免将描述相似直接等同于处理方案可复用
2.3 业务逻辑知识库:需求变更提炼与适用性核查
定时同步已上线需求,按来源标识去重并清洗富文本、附件及过程记录,由大模型提炼核心业务变更,同时保留适用范围、生效条件与例外限制
将业务知识分片、向量化并关联来源,结合业务、终端与版本等信息限定检索范围,完成语义召回、文档去重与适用性核查
对缺少可靠历史匹配的客诉补充检索,必要时读取来源正文,核实片段中未完整呈现的条件,为区分业务变更与疑似缺陷提供依据
2.4 AI综合建议生成:融合案例经验与业务依据
将当前客诉、候选历史案例、业务资料组织为模型输入,明确区分问题事实、历史结论和业务规则
通过提示词限定判断范围与输出结构,生成问题匹配类型、综合建议、引用依据、置信度及建议处理动作,对信息不足的部分列出待核实事项
后端校验引用是否来自本次候选、处理结论是否真实有效;补查获得新增依据时再进行综合分析,减少重复调用与无依据推断
2.5 自动处置:从模型建议到校验后执行
将模型置信度作为准入条件之一,联合检查引用有效性、处理依据、适用范围与建议动作,避免仅凭高评分触发工单操作
检索不完整、模型失败或依据存在冲突时,阻止自动处置并保留建议;满足条件后,根据建议动作执行对应的工单流转
执行前重新核对工单状态与分析结果是否仍然适用,防止旧建议写回和重复操作,并记录执行结果或阻断原因,支持后续核查
2.6 责任分发与人工采纳:形成协同处理闭环
通过提示词限定算法、产品、运营及其他领域,输出结构化分类字段,由程序映射配置中的责任人;未命中时进入业务模块匹配
模块匹配采用业务自定义关键词计分与排除词过滤,最高分并列时由AI在候选模块内辅助判断,再依次使用有效历史处理人和配置的默认负责人兜底
转交工单时同步携带综合建议、参考依据与待核实事项,通过企微通知支持人工查看和一键采纳,将确认后的处理结果用于知识维护与后续复用
3. 问题优化与系统质量保障
3.1 自动处置正确率保障
围绕依据真实性、适用条件和执行资格建立校验机制,对不满足条件的结果保留建议并明确待确认事项
3.2 大模型幻觉与错误引用防控
从输入资料、生成约束和输出核验三个环节,减少虚构原因、错误处理结论与无效引用
3.3 Token消耗与重复调用优化
通过入库清洗、检索收敛、输入预算和有效结果复用,控制长文档与多轮分析带来的累计开销
3.4 分析质量回归验证
构建典型客诉与易混淆场景的回归集,在模型、提示词和检索策略调整后,核对召回质量、分析结果及执行决策
3.5 异常场景自动化测试
覆盖知识检索超时、资料不完整、无效引用与工单状态变化,验证系统在异常条件下的降级和操作拦截能力
4. 案例与成果量化
4.1 典型客诉的闭环处理实践
结合历史问题自动处置、相似问题责任分发、业务规则补充核查及产品建议转交,展示系统在不同场景下的实际应用
4.2 响应效率与处理质量的量化评估
围绕首次跟进时效、AI分发与处理覆盖、分发准确率和处理准确率,呈现业务落地成效
4.3 引入AI前后的处理方式对比
从历史经验复用、业务规则核查、工单协同和人工投入等方面,展示客诉处理流程的变化与收益
5. 总结与未来展望
5.1 落地前提与渐进式建设路径
以可追溯的历史记录、可核查的业务规则和可验证的工单流程为基础,逐步从辅助分析推进到自动处置
5.2 核心实践经验
总结处理记录规范、双知识库分工、分环节问题定位,以及分发时携带建议与依据的工程价值
5.3 后续能力演进
探索新客诉中的缺陷识别、结合日志与配置的诊断智能体,以及真实客诉向回归用例的转化,进一步连接线上反馈与质量保障
听众收益:
1.掌握双知识库驱动的客诉分析方法,理解历史经验与业务规则的互补关系,学会通过混合检索与大模型综合分析,将分散知识转化为可追溯的处理依据
2.获得AI客诉闭环的工程实践经验,理解自动处置校验、责任分发与人工采纳的协同机制,掌握从模型建议到工单执行的落地方法
3.学习兼顾分析质量与调用成本的优化策略,通过幻觉防控、引用核验、Token控制及自动化回归,提升AI应用的可靠性与运行效率