CHAPTER · 01
向量与语义相似度
把一句话变成一串坐标,意思相近的靠得近。整套检索都建在这上面。
CHAPTER · 02
相似不等于相关
算出来最像的那几段,未必能回答你的问题。这是检索最大的误差来源。
CHAPTER · 03
关键词、向量与混合检索
三种找法各有各的盲区,实际系统几乎都是混着用。
CHAPTER · 04
上下文窗口
一次请求能装下的全部内容,就这么大一张台面。
CHAPTER · 05
上下文中段丢失
开头和结尾看得最清楚,中间那段随长度增加逐渐失焦。
CHAPTER · 06
对话压缩
聊长了会自动丢内容。丢的通常正是早期定下的约束。
CHAPTER · 07
长期记忆的实现方式
提取、冲突、注入。让模型认识你,代价是什么。
CHAPTER · 08
RAG:知识库的三步
先检索再回答。三个环节,以及它到底解决了什么。
CHAPTER · 09
切分:RAG 成败的第一步
切得太碎丢上下文,切得太大稀释重点。这一步定生死。
CHAPTER · 10
RAG 答不准的三个环节
切分、召回、重排,每一环都会掉链子,各有各的症状。
CHAPTER · 11
微调还是 RAG
要补知识几乎总是 RAG。什么时候才真的需要微调。