第 2 周 · D10🔒 锁定约 5 小时
查询侧优化:改写、假设文档嵌入、多路查询、后退提问与意图路由
用户的问题往往写得又短又含糊,检索不到不是索引的错。这一天把功夫下在查询进来之后、检索发生之前:改写、生成假设答案再检索、拆成多个子查询、退一步问更一般的问题,以及先判意图再决定走哪条路。
今日目标
- 能说清查询改写、假设文档嵌入、多路查询、后退提问四种手法各自补的是什么短板
- 能实现一个意图路由,把闲聊、需要检索的问题和需要多跳的问题分流到不同处理路径
- 能用评估证明每一种查询侧手法的净收益,并算清它们额外增加的延迟与调用次数
昨天把力气全花在检索器上:两路召回、融合、重排。今天换一头——一个字都不改检索器,只改进去的那句话。读完回到页面顶部把三条目标勾掉。
小白版讲解
病人说不舒服,医生得先问出哪里不舒服
去医院看病,你不会一进门就被推进 CT 室。医生先问:哪儿不舒服,什么时候开始的,按下去会不会更疼。这一轮问诊的产出不是诊断,是一句准确的主诉——「右下腹持续性钝痛,两天,按压加剧」。有了这句话,后面的检查才知道该拍哪儿。
检索增强生成(RAG)系统里,「用户打进来的那句话」就是病人的第一句「我不舒服」:又短又含糊。我们前九天做的所有事——切块、建索引、混合检索、重排——都是 CT 室里的设备。设备再好,主诉不准,拍出来的还是别处。
今天要做的,就是在查询进来之后、检索发生之前加一道问诊。它有个统称:查询变换(query transformation)。四种常见手法各补一种短板:
- 查询改写补「话没说全」:指代没消解、口语化、一句话塞了两个问题。
- 假设文档嵌入补「问句和答案长得不像」:两者本来就不在一个语域。
- 多路查询补「只有一个说法捞不全」:同一件事文档里可能换了个词写。
- 后退提问补「问得太细,细到语料里根本没有那一句」。
再加一层意图路由:先判断这个问题到底要不要检索。
要提前说清一件事:这一天的产出不是「把五种手法全打开」,而是一份默认配置。 每种手法都要多花至少一次模型调用,多数还要多花几次检索。所以每讲一种都要顺手报三笔账:指标涨了多少、延迟涨了多少、多了几次调用。秤在 第八天 已经造好了。
面试题库
假设文档嵌入(HyDE)为什么有效?它在什么情况下会把检索带偏?Why does HyDE (hypothetical document embeddings) work, and when does it steer retrieval in the wrong direction?
国内高频海外高频进阶#hyde#query-transformation#retrieval-quality🔒 解锁本章后查看答题要点。
多轮对话里怎么处理指代?不做指代消解最典型的翻车场景是什么?How do you handle coreference in multi-turn RAG, and what is the classic failure when you skip it?
国内高频海外高频基础#coreference#multi-turn#query-rewriting🔒 解锁本章后查看答题要点。
上线查询改写之后每问多了一次模型调用,端到端延迟涨了一倍,你怎么判断这笔开销值不值?Query rewriting adds a model call per question and doubles end-to-end latency. How do you decide whether it is worth paying?
国内高频海外高频深入#cost-tradeoff#latency#query-rewriting🔒 解锁本章后查看答题要点。
意图路由判错了会怎样?你会怎么设计兜底?What happens when intent routing misclassifies, and how would you design the fallback?
国内高频海外高频进阶#intent-routing#fallback#observability🔒 解锁本章后查看答题要点。
