跳到主要内容

检索、上下文与记忆

这一组讲怎样把对的资料放到模型面前:从文档里找出相关段落,组装当前任务的上下文,再决定哪些信息跨会话留下来。三个本地工具各管一种需要:搜自己的笔记用 QMD,在代码和文档里按含义找文件用 zvec-grep,要让 AI 助手自己读写笔记用 Basic Memory。

阅读顺序​

顺序文章要做的事
1检索流程:切分、召回、重排与引用把文档变成可追溯的回答依据,找出召回、排序和上下文组装各会丢掉什么。
2Embedding、Reranker 与分类器:相似、相关和决策按输入、输出和训练目标分清三类模型,给每一步选对的那一类。
3Agent 上下文工程为当前任务组装一份精简、新鲜的工作集,来源和持久状态留在窗口之外。
4Agent 记忆:保存、更新与失效决定 AI 助手该记住什么、什么时候更新、什么时候作废。
5向量索引:精确搜索、HNSW 与 IVF比较精确搜索、HNSW 与 IVF,用精确近邻做基准测召回。
6QMD:在本地搜索 Markdown 笔记搜自己的 Markdown 笔记:关键词、语义或混合检索,再读结果对应的原文。
7zvec-grep:按含义搜索代码与文档在代码和文档里按含义找文件,再核对当前的源码或文档。
8Basic Memory:让 AI 助手读写关联笔记让 AI 助手跨对话读写互相关联的 Markdown 笔记。
另见检索与生成系统评估:从证据命中到回答正确分开测证据命中、排序、忠实性和答案质量,找到 RAG 的瓶颈;这篇归在“评估与证据”一组。
探索关联打开关联网络