逐日AI微信小程序
14 天 RAG:从检索到可信回答
第 2 周 · D13🔒 锁定约 5 小时

上生产:增量同步与去重、按权限过滤、缓存分层、链路追踪与成本延迟账

把系统交给真实用户之前还差最后一段:文档会变、人有权限差别、重复问题不该每次都重算、出了问题要能查到是哪一步慢和贵。这一天把这四件事一次做完。

今日目标 0/3

登录后可以勾选并保存进度。

今日目标

  1. 能设计一套基于内容指纹的增量同步方案,做到文档改动后只重算受影响的块
  2. 能把访问控制做进检索本身,并说明为什么在生成阶段才过滤是错的
  3. 能给整条链路加上追踪与成本计量,定位出延迟和花费各自集中在哪一步

前十二天你把这套系统做得越来越准,但它一直活在一个假设里:语料是静止的、所有人看到的是同一份、每个问题都从头算一遍。今天把这三个假设全部拆掉。读完并做完实验之后,回到页面顶部把三条目标逐一勾掉。

小白版讲解

馆藏是会变的,而重新编一次目录太贵

图书馆的卡片目录不是编完就完事的。每周都有新书上架、有书被借丢下架、有书出了修订版换掉旧版。如果每次变动都把全馆重编一次目录,图书管理员这辈子就只干这一件事了。真实的做法是盘点:拿一份现在的馆藏清单,跟目录柜里的卡片逐条对账,只动对不上的那几张。

索引也一样。你的语料来自网盘、工单系统、内部维基,它们每天都在变。"每晚定时全量重建"这个方案在三十篇文档时毫无问题,在三万篇时会变成一笔每天都要付的巨款——向量化是按 token 收费的,全量重建就是每天把整个知识库重新买一遍。更糟的是重建期间索引处于半新半旧的状态,用户这时候提问,拿到的结果是不可复现的。

对账要处理三种变更,一种都不能少:来源里有、索引里没有的是新增;两边都有但内容不一样的是修改;索引里有、来源里已经没有的是删除。写出来只有十几行,关键是这三条分支必须都在:

sync.js
// 三向对账:拿来源的全集和索引的全集比,只动对不上的那部分
export function planSync(indexed, incoming) {
  const plan = { added: [], modified: [], unchanged: [], deleted: [] }
  for (const doc of incoming) {
    const known = indexed.get(doc.id)
    if (!known) plan.added.push(doc.id)
    else if (known.contentHash !== contentHash(doc.raw)) plan.modified.push(doc.id)
    else plan.unchanged.push(doc.id)
  }
  // 删除必须反过来遍历索引:来源里根本不会出现"这篇没了"这条记录
  const incomingIds = new Set(incoming.map((d) => d.id))
  for (const docId of indexed.keys()) {
    if (!incomingIds.has(docId)) plan.deleted.push(docId)
  }
  return plan
}

在今天的实验里,这次对账认出了新增一篇、修改一篇、删除一篇,最后只向量化了 6 块;而全量重建要向量化 151 块。同一份语料,账单差了二十多倍。

登录并关联后阅读全文

请先登录网页,并在账户页关联微信小程序账号。关联后每天可免费阅读 1 篇;额外文章需在小程序看广告解锁。

小程序码

微信扫码打开「逐日AI」,进入相同课程和章节,选择看广告解锁,完成后刷新本页。

面试题库

  • 文档更新之后,你怎么做到只重算受影响的块?被删掉的文档又怎么保证一定从索引里消失?After a document changes, how do you recompute only the affected chunks? And how do you guarantee a deleted document really disappears from the index?
    国内高频海外高频进阶#incremental-sync#content-hash#index-maintenance

    🔒 解锁本章后查看答题要点。

  • 为什么权限过滤不能放在生成阶段做?放在那里会泄露什么?Why can't access control be applied at the generation step? What exactly leaks if you put it there?
    国内高频海外高频深入#access-control#filter-pushdown#multi-tenancy

    🔒 解锁本章后查看答题要点。

  • RAG 系统里有哪些东西可以缓存?各自的失效条件是什么?What can be cached in a RAG system, and what are the invalidation conditions for each?
    国内高频海外高频进阶#caching#invalidation#cost-optimization

    🔒 解锁本章后查看答题要点。

  • 要换一个 embedding 模型,线上系统怎么迁移才能不停机也不掉召回?You need to switch embedding models. How do you migrate a live system without downtime and without losing recall?
    国内高频海外高频深入#embedding-migration#zero-downtime#rollout

    🔒 解锁本章后查看答题要点。

评论