排序在 AI 里的真身：Rerank
RAG 检索回来的段落不能直接用：先粗排再精排。亲手调整权重，看候选段落怎么重新洗牌——推荐流和搜索结果同理
本页解决的问题
先给结论「排序在 AI 里的真身：Rerank」要解决的关键问题是什么？
RAG 检索回来的段落不能直接用：先粗排再精排。亲手调整权重，看候选段落怎么重新洗牌——推荐流和搜索结果同理
让这个结论先证明自己值得留下。 把这一页当成决策工具，而不是需要背下来的定义。把概念连到一个真实任务、一个可观察结果，以及一个能改变你判断的失败上。
写下一个问题：试完这个方法后，你能用什么证据回答它？
结论听起来很完整，却没有检查最关键的假设。
场景：用户在客服机器人里问「你们的退货政策是什么？」，粗排从知识库捞回 5 条候选段落。每条有三项分数：向量相似度（意思相近）、关键词命中（字面匹配）、新鲜度（文档新旧）。你手里有三个权重滑块，总分 = 三项分数加权平均。留意：初始只重相似度，排第一的其实是 2023 年的旧版政策——试试加大「新鲜度」权重，看正确条款怎么登顶。
你刚才干的活，在真实系统里是「精排」——漏斗的最后一层。完整的流程长这样（滚到这里自动播放）：
为什么不全用精排？
贵。精排要把「问题 + 段落」成对送进模型逐条细读，100 万条都这么读，等一小时、烧一笔钱。所以先用便宜的粗排把 100 万砍到 50。
为什么不全用粗排？
不准。粗排只看向量距离，分不清「现行政策」和「旧版政策」——你刚才亲眼见过。所以最后 50 条要请贵的模型逐条把关。
搜索结果排序
搜索引擎先从万亿网页里粗召回，再按相关性、权威度、新鲜度打分精排——你看到的第一页，就是 Rerank 的产出。
推荐信息流
短视频先粗筛几千条候选，再用精排模型预测「你会不会看完」逐条打分。你的首页顺序，每天被重排几十次。
RAG 检索
就是今天的主场：向量近邻粗捞、Rerank 精选，最后几条才有资格占用宝贵的上下文——上一章 O(n²) 的账单还记得吧。
「交互 · 亲手当一次 Rerank 模型」里的算法代价曲线
「场景：用户在客服机器人里问「你们的退货政策是什么？」，粗排从知识库捞回 5 条候选段落。每条有三项分数： 向量相似度 （意思相近）、 关键词命中 （字面匹配）、 新鲜度 （文档新旧）。你手里有三个权重滑块，总分 = 三项分数加权平均。」真正训练的不是背诵步骤，而是识别重复工作：输入变大时，程序到底多做了多少次比较、移动或递归。
先找重复工作，再谈快慢
「你刚才干的活，在真实系统里是「精排」——漏斗的最后一层。完整的流程长这样（滚到这里自动播放）」可以拆成输入规模、每轮做什么、以及是否能缩小下一轮范围三个问题。Big-O 是描述增长趋势的语言，不是对每台机器的精确计时；常数、内存和真实数据分布也会影响最终结果。
- 排序在 AI 时代的真身是打分 + 重排 ：比的不是数字大小，是相关性得分
- 权重就是价值观 ：只看相似度会把旧资料排上来，多维打分才靠谱
- 两阶段漏斗 ：粗排快而糙负责海选，精排贵而准负责决赛
别把理论最优当成无条件最优
面对 AI 写出的算法，先用小输入手算一遍，再用逐渐放大的数据做基准测试。这样才能把「就是今天的主场：向量近邻粗捞、Rerank 精选，最后几条才有资格占用宝贵的上下文——上一章 O(n²) 的账单还记得吧」从一句结论变成可检查的性能判断。
从「交互 · 亲手当一次 Rerank 模型」走到「核心概念 · 两阶段漏斗」
「交互 · 亲手当一次 Rerank 模型」先把问题落在「场景：用户在客服机器人里问「你们的退货政策是什么？」，粗排从知识库捞回 5 条候选段落。每条有三项分数： 向量相似度 （意思相近）、 关键词命中 （字面匹配）、 新鲜度 （文档新旧）。你手里有三个权重滑块，总分 = 三项分数加权平均。 留意：初始只重相似度，排第一的其实是 2023 年的旧版政策——试试加大「新鲜度」权重，看正确条款怎么登顶」上；到了「核心概念 · 两阶段漏斗」，讨论继续推进到「你刚才干的活，在真实系统里是「精排」——漏斗的最后一层。完整的流程长这样（滚到这里自动播放）」。两段连起来，重点就不只是记住一个结论，而是看清它成立所依赖的条件。
把这条判断带到下一个场景
算法题换成真实任务后，先找出重复工作，再问输入规模如何变化，最后用一个小基准验证理论判断。这样不会把复杂度记成脱离场景的标签。
- 「交互 · 亲手当一次 Rerank 模型」：场景：用户在客服机器人里问「你们的退货政策是什么？」，粗排从知识库捞回 5 条候选段落。每条有三项分数： 向量相似度 （意思相近）、 关键词命中 （字面匹配）、 新鲜度 （文档新旧）。你手里有三个权重滑块，总分 = 三项分数加权平均。 留意：初始只重相似度，排第一的其实是 2023 年的旧版政策——试试加大「新鲜度」权重，看正确条款怎么登顶
- 「核心概念 · 两阶段漏斗」：你刚才干的活，在真实系统里是「精排」——漏斗的最后一层。完整的流程长这样（滚到这里自动播放）
- 「最后的要点」：漏斗分层是省钱的艺术 ：搜索、推荐、RAG 全是「先捞后排」
最后的「最后的要点」把讨论落到「漏斗分层是省钱的艺术 ：搜索、推荐、RAG 全是「先捞后排」」。回看这条线索时，最值得保留的是：当输入、规模或风险改变，哪些判断需要重新做一遍。
✅ 这一课想和你分享的
- 排序在 AI 时代的真身是打分 + 重排：比的不是数字大小，是相关性得分
- 权重就是价值观：只看相似度会把旧资料排上来，多维打分才靠谱
- 两阶段漏斗：粗排快而糙负责海选，精排贵而准负责决赛
- 漏斗分层是省钱的艺术：搜索、推荐、RAG 全是「先捞后排」
我把这篇文章里的一个判断改写成了今天可以验证的小实验。比记住结论更有用的是，知道下一步要观察什么。
读完以后我先回头找它成立的条件，而不是直接把方法搬进项目。这个顺序让后面的取舍清楚很多。
如果把这个判断放到真实工作里，最先需要补的约束是什么？我想知道从阅读到第一次实践之间，哪一步最值得先做。
还没有这篇文章的讨论。