零基础入门 · 先把 AI 的雾气拨开

先判断模型缺的是训练,还是证据

用两个不同的比喻比较微调和检索:改变一个人的回答方式,或给他一份正确的参考材料。选择取决于行为、知识新鲜度、成本与可控性。

本页解决的问题

先给结论

「先判断模型缺的是训练,还是证据」要解决的关键问题是什么?

用两个不同的比喻比较微调和检索:改变一个人的回答方式,或给他一份正确的参考材料。选择取决于行为、知识新鲜度、成本与可控性。

判断标准

先问:要改变的是行为,还是知识? 事实需要保持最新、可追溯时,用检索;某种稳定行为或格式需要变成默认习惯时,再考虑微调。

下一步

先把需求分成行为、知识、风格或混合,再选方法。

常见误区

给变化中的知识库做微调,或用检索解决行为问题。

一句话回答

微调是送 AI 重新上课,把知识练进它身体里;喂资料(也叫知识库、RAG)是让它开卷考试,随用随查。多数公司真正需要的,其实是后者

看个演示 · 上课 vs 开卷,并排比一比

同一个目标:让 AI 会回答你公司的问题。左边走「微调」这条路,右边走「喂资料」这条路。点下面的按钮,看两条路各要经历什么。

🏫微调:送去重新上课
周期以周计 · 花费以万计
📚喂资料:开卷考试
当天生效 · 花费小得多
一句话总结:改「性格」才需要上课,查「知识」开卷就够了。

注意一个关键差别:微调改变的是模型本身,像把知识练成了肌肉记忆;喂资料完全没动模型,只是考试时允许它翻书。所以资料一更新,开卷这边换本书就行,上课那边就得重新读一遍。

对号入座 · 你的场景该选哪个

道理懂了,落到具体事上怎么选?下面四个是企业里最常见的场景,点一个试试,看推荐方案和理由。

一张表看懂两条路
🏫 微调(上课)📚 知识库(开卷)
生效速度几天到几周当天就能用
成本量级几万到几十万起步,还要专人伺候低一到两个量级,普通团队就能搭
知识更新资料变了要重新训练一遍换个文件就行,随换随用
各自适合改风格、改口吻、学专业「语感」会变的知识:制度、价格、文档问答
那到底该怎么选

给你一个省钱的顺序:先试提示词,再挂知识库,最后才考虑微调。很多「必须微调」的需求,认真写一段提示词就解决了;再不够,挂上知识库让它开卷;两样都试过还差口气,那才轮到花大钱送它上课。顺便提醒:饭局上有人说「我们训了个模型」,多数时候他做的只是前两步,这一页帮你听懂他到底干了啥

还有一个实用信号:如果你的需求里有「查」这个字,例如查制度、查价格、查文档,那基本就是知识库的活。想看知识库内部到底怎么运转,可以接着读企业都在建的「知识库」是什么

「看个演示 · 上课 vs 开卷,并排比一比」为什么能找到相关内容

「微调是 送 AI 重新上课 ,把知识练进它身体里;喂资料(也叫知识库、RAG)是 让它开卷考试 ,随用随查。多数公司真正需要的,其实是 后者」把检索问题从“把资料存起来”推进到“怎样找到真正相关的资料”。这一步决定了 RAG、推荐和以图搜图最后交给模型的输入质量。

相似度不是答案,召回之后还要核对

在「同一个目标:让 AI 会回答你公司的问题。左边走「微调」这条路,右边走「喂资料」这条路。点下面的按钮,看两条路各要经历什么」对应的流程里,Embedding 负责把对象放到可比较的语义空间,近邻索引负责减少搜索范围,最终的回答仍然依赖召回片段是否覆盖问题、距离指标是否合适,以及内容有没有过期。

  • 微调 = 上课 :知识练进模型身体里,周期以周计、花费以万计
  • 知识库 = 开卷考试 :资料放书架随用随查,当天生效,换文件就更新
  • 知识常更新就开卷 ,改性格、改风格、学专业语感才需要上课

先区分找得到和找得准

把「给你一个省钱的顺序: 先试提示词,再挂知识库,最后才考虑微调 。很多「必须微调」的需求,认真写一段提示词就解决了;再不够,挂上知识库让它开卷;两样都试过还差口气,那才轮到花大钱送它上课。顺便提醒:饭局上有人说「我们训了个模型」,多数时候他做的只是前两步, 这一页帮你听懂他到底干了啥」落成一次小测试:准备几条有明确答案的查询,记录召回的相关性、遗漏和无关结果,再决定是否需要换切分方式、索引或重排。

从「看个演示 · 上课 vs 开卷,并排比一比」走到「对号入座 · 你的场景该选哪个」

「看个演示 · 上课 vs 开卷,并排比一比」先把问题落在「同一个目标:让 AI 会回答你公司的问题。左边走「微调」这条路,右边走「喂资料」这条路。点下面的按钮,看两条路各要经历什么」上;到了「对号入座 · 你的场景该选哪个」,讨论继续推进到「道理懂了,落到具体事上怎么选?下面四个是企业里最常见的场景, 点一个试试 ,看推荐方案和理由」。两段连起来,重点就不只是记住一个结论,而是看清它成立所依赖的条件。

把这条判断带到下一个场景

检索系统也可以这样看:先确定什么算相关,再观察召回是否覆盖问题,最后检查排序、切分和时效性有没有把真正有用的内容挤出去。

  • 「看个演示 · 上课 vs 开卷,并排比一比」:同一个目标:让 AI 会回答你公司的问题。左边走「微调」这条路,右边走「喂资料」这条路。点下面的按钮,看两条路各要经历什么
  • 「对号入座 · 你的场景该选哪个」:道理懂了,落到具体事上怎么选?下面四个是企业里最常见的场景, 点一个试试 ,看推荐方案和理由
  • 「最后的要点」:省钱顺序 :先试提示词,再挂知识库,都不够再考虑微调

最后的「最后的要点」把讨论落到「省钱顺序 :先试提示词,再挂知识库,都不够再考虑微调」。回看这条线索时,最值得保留的是:当输入、规模或风险改变,哪些判断需要重新做一遍。

✅ 这一页想和你分享的

  • 微调 = 上课:知识练进模型身体里,周期以周计、花费以万计
  • 知识库 = 开卷考试:资料放书架随用随查,当天生效,换文件就更新
  • 知识常更新就开卷,改性格、改风格、学专业语感才需要上课
  • 省钱顺序:先试提示词,再挂知识库,都不够再考虑微调

互动练习

把模糊需求拼成一条可执行的提示词

把目标、背景和限制说清楚,再把整理好的提示词带到你正在使用的 AI 工具里。

填写上面的字段,提示词会出现在这里。
标记为已学完 阅读进度会自动记录
← 上一篇下一篇 →

继续阅读

同一条线上的下一篇。

文章讨论

读到这里,留下一个判断。

把刚想明白的地方、还没想通的问题,留给下一位一起学习的人。

正在讨论 先判断模型缺的是训练,还是证据 先把 AI 的雾气拨开
3条讨论文章讨论 · 与共学社区同步
在共学社区查看
MC
Mason Clark平台工程师
观点知识更新

我现在先问知识变化频率:每天都变的内容优先考虑 RAG,需要稳定改变表达方式或行为时才看微调。这个判断比“数据多不多”更好用。

文章讨论9 有帮助
LH
Lily Hart创业团队成员
问题问题

只有几百条高质量示例时,微调是否可能只是把训练集背得更像?除了留出测试集,还有什么简单方法能判断它真的学到了行为?

文章讨论6 有帮助
OH
Omar Haddad解决方案架构师
建议方案比较

可以补一个三列对照实验:同一问题分别用基座模型、RAG、微调模型回答,再记录知识更新、格式稳定性和维护成本,读者会更容易做取舍。

文章讨论5 有帮助