第 1 周 · D1🔒 锁定约 4 小时
为什么要检索:幻觉、知识截止与长上下文的代价,以及一个纯关键词的最小 RAG
先弄清楚检索增强生成到底替模型解决了哪三个具体毛病,再把它和微调、超长上下文放在一起比成本与适用面,最后不碰任何向量,用 BM25 打分写出第一个能回答问题的最小系统。
先弄清楚检索增强生成到底替模型解决了哪三个具体毛病,再把它和微调、超长上下文放在一起比成本与适用面,最后不碰任何向量,用 BM25 打分写出第一个能回答问题的最小系统。
面试题库
什么时候该用检索增强生成,什么时候该微调,什么时候直接把文档塞进上下文就够了?When should you use retrieval-augmented generation, when should you fine-tune, and when is stuffing the documents into the context window good enough?
国内高频海外高频基础#rag-basics#fine-tuning#long-context🔒 解锁本章后查看答题要点。
BM25 里的词频饱和与文档长度归一化分别在解决什么问题?把 k1 和 b 都设成 0 会发生什么?In BM25, what problems do term-frequency saturation and document length normalization each solve? What happens if you set both k1 and b to zero?
国内高频海外高频进阶#bm25#ranking#information-retrieval🔒 解锁本章后查看答题要点。
一个检索增强生成系统答错了,你怎么定位是检索的锅还是生成的锅?A retrieval-augmented generation system gave a wrong answer. How do you determine whether retrieval or generation is at fault?
国内高频海外高频进阶#debugging#failure-modes#evaluation🔒 解锁本章后查看答题要点。
上下文窗口已经做到上百万 token 了,检索这一步会被淘汰吗?Context windows are now in the millions of tokens. Does that make the retrieval step obsolete?
国内高频海外高频深入#long-context#cost#system-design🔒 解锁本章后查看答题要点。
