英伟达为什么那么值钱?
AI 时代的卖铲人:一个博士逐题算 vs 一万个小学生同时算,看懂显卡为什么是抢手货
本页解决的问题
先给结论英伟达为什么那么值钱?
AI 时代的卖铲人:一个博士逐题算 vs 一万个小学生同时算,看懂显卡为什么是抢手货
让这个结论先证明自己值得留下。 把这一页当成决策工具,而不是需要背下来的定义。把概念连到一个真实任务、一个可观察结果,以及一个能改变你判断的失败上。
写下一个问题:试完这个方法后,你能用什么证据回答它?
结论听起来很完整,却没有检查最关键的假设。
AI 训练要同时做海量的简单算术,显卡天生擅长人海战术;全世界都在抢算力,英伟达是这轮淘金潮里最大的卖铲人。
当年淘金热有个经典观察:冲进金矿的人未必挖到金子,在路口卖铲子和牛仔裤的人先发了财。今天的 AI 就是新一轮淘金潮:
淘金的人
全世界的公司都冲进来训模型、做应用,都想挖到自己的金子。谁能挖到,现在还说不准。
铲子
挖金子得先有工具。AI 的工具是算力,主要就是一排排装满显卡的机房。没铲子,再好的想法也开不了工。
卖铲人
不管谁最后挖到金子,铲子人人都得买。英伟达卖的就是这把铲子,而且几乎是独一家,想买还得排队。
训练一个大模型,光算力开销就在几十万到上亿的量级,这些钱大头流向了同一家公司。淘金的人越多、越疯狂,卖铲人越值钱。
那为什么非要显卡?电脑里原本的处理器(CPU)也很强啊。因为两者的强法不一样:CPU 像一位博士,什么难题都会,但一次专注做一道;显卡(GPU)像一万名小学生,每人只会简单算术,但能同时开工。AI 训练要算的恰好是海量的简单乘加,正对小学生的胃口。点下面开赛,亲眼看看。
造出性能接近的芯片,别家未必做不到。难追的是另一样东西:多年积累的软件工具链和生态。全世界的 AI 开发者写程序,用的那套工具默认长在英伟达的地基上;换一家的芯片,等于让所有人搬家重装修,光有房子没人愿意来。硬件可以砸钱造,生态只能靠时间长。这就是它的护城河。
关系很直接:算力贵,是所有 AI 服务收费的根源。你每次和 AI 对话,按 Token 计的费里摊着显卡的折旧和机房的电费;生成一张图贵几十倍,也是因为图要算的量比文字大得多。理解了铲子有多贵,就理解了账单为什么长那样。
「打个比方 · 淘金潮与卖铲人」要放回选型约束
「AI 训练要同时做 海量的简单算术 ,显卡天生擅长人海战术;全世界都在抢算力,英伟达是这轮淘金潮里 最大的卖铲人」说明,模型、许可证、接入方式和榜单都只是信息,不是脱离场景的答案。真正的选择取决于任务、数据边界、延迟、质量下限和运行成本。
先写淘汰条件,再看最高分
「当年淘金热有个经典观察:冲进金矿的人未必挖到金子, 在路口卖铲子和牛仔裤的人先发了财 。今天的 AI 就是新一轮淘金潮」涉及的比较,至少要使用同一组真实输入,并同时观察正确性、失败方式、响应时间和费用。一个在公开榜单上领先的模型,可能因为许可证、隐私要求或峰值延迟不适合你的任务。
- 显卡赢在并行 :一万名小学生同时算简单题,完胜一位博士逐题精算
- 卖铲人逻辑 :淘金的人未必赚钱,铲子人人都得买
- 生态是护城河 :开发者都在它的工具链上盖房,搬家成本太高
没有测试集,就没有可靠的赢家
以「关系很直接: 算力贵,是所有 AI 服务收费的根源 。你每次和 AI 对话,按 Token 计的费 里摊着显卡的折旧和机房的电费;」为起点,选几条真正会影响决策的输入,写下一个会改变选择的反例;这比记住一次排名更能支持下一次判断。
从「打个比方 · 淘金潮与卖铲人」走到「来场比赛 · 一位博士 vs 一万名小学生」
「打个比方 · 淘金潮与卖铲人」先把问题落在「当年淘金热有个经典观察:冲进金矿的人未必挖到金子, 在路口卖铲子和牛仔裤的人先发了财 。今天的 AI 就是新一轮淘金潮」上;到了「来场比赛 · 一位博士 vs 一万名小学生」,讨论继续推进到「那为什么非要显卡?电脑里原本的处理器(CPU)也很强啊。因为两者的强法不一样: CPU 像一位博士 ,什么难题都会,但一次专注做一道; 显卡(GPU)像一万名小学生 ,每人只会简单算术,但能同时开工。AI 训练要算的恰好是海量的简单乘加,正对小学生的胃口。点下面开赛,亲眼看看」。两段连起来,重点就不只是记住一个结论,而是看清它成立所依赖的条件。
把这条判断带到下一个场景
做模型选择时,先用真实任务写出不能妥协的条件,再用同一组输入比较质量、失败方式、延迟、许可和成本;榜单只适合作为起点。
- 「打个比方 · 淘金潮与卖铲人」:当年淘金热有个经典观察:冲进金矿的人未必挖到金子, 在路口卖铲子和牛仔裤的人先发了财 。今天的 AI 就是新一轮淘金潮
- 「来场比赛 · 一位博士 vs 一万名小学生」:那为什么非要显卡?电脑里原本的处理器(CPU)也很强啊。因为两者的强法不一样: CPU 像一位博士 ,什么难题都会,但一次专注做一道; 显卡(GPU)像一万名小学生 ,每人只会简单算术,但能同时开工。AI 训练要算的恰好是海量的简单乘加,正对小学生的胃口。点下面开赛,亲眼看看
- 「最后的要点」:算力成本最终摊进你的账单 :每次对话、每张图,都有铲子的折旧
最后的「最后的要点」把讨论落到「算力成本最终摊进你的账单 :每次对话、每张图,都有铲子的折旧」。回看这条线索时,最值得保留的是:当输入、规模或风险改变,哪些判断需要重新做一遍。
✅ 这一页想和你分享的
- 显卡赢在并行:一万名小学生同时算简单题,完胜一位博士逐题精算
- 卖铲人逻辑:淘金的人未必赚钱,铲子人人都得买
- 生态是护城河:开发者都在它的工具链上盖房,搬家成本太高
- 算力成本最终摊进你的账单:每次对话、每张图,都有铲子的折旧
我把这篇文章里的一个判断改写成了今天可以验证的小实验。比记住结论更有用的是,知道下一步要观察什么。
读完以后我先回头找它成立的条件,而不是直接把方法搬进项目。这个顺序让后面的取舍清楚很多。
如果把这个判断放到真实工作里,最先需要补的约束是什么?我想知道从阅读到第一次实践之间,哪一步最值得先做。
还没有这篇文章的讨论。