专题篇章

Token 成本工程:让账算得过来

把 AI 账单读成设计信息:理解 Token 计价、识别价格断崖、看清 Agent 成本增长,再从语法、语义、架构和输出四层减少浪费。

13 篇札记开放阅读 · 无需登录
专题篇章13篇札记

本页解决的问题

先给结论

「Token 成本工程:让账算得过来」AI 学习路径适合解决什么问题?

把 AI 账单读成设计信息:理解 Token 计价、识别价格断崖、看清 Agent 成本增长,再从语法、语义、架构和输出四层减少浪费。 路线包含 13 篇免费札记,每篇聚焦一个可以独立搜索、理解和验证的问题。

判断标准

核心主题包括:定价即架构、三大跳档陷阱、Agent 的账单、四层实战优化。

下一步

从「AI 的利润,是产品设计问题」开始,再按当前任务选择下一篇。

常见误区

不要为了完成目录而跳过实践;能用自己的例子解释一个取舍,比读完更多标题更重要。

这条路径会练什么

从第一篇打开

每个章节都围绕一类真实决策展开。可以顺着走,也可以从正在处理的工作切入。

13篇札记
01AI 的利润,是产品设计问题看清为什么最喜欢 AI 产品的用户,也可能带来最大的可变成本。Token 价格不只是财务数字,它还提示了延迟、吞吐和质量的关系。开篇3 min02Token 怎么数:BPE 与隐形的 Token 税从字符到子词的演进、BPE 的合并规则,以及中文为什么天生贵 2 倍;「给主人留下些什么吧」的诡异合并交互3 min03报价表速览与三大梯队T0 旗舰 / T1 主力 / T2 走量怎么分工;光知道哪个贵不够,要盯住价格跳变的边界线选型3 min04GLM 的短输出博弈:200 Token 断崖输出 199 和 201 是两种价格,连输入都回溯涨价;拖动滑块看账单跳变,四种应对策略交互3 min05Qwen 的阶梯逃逸:32k 红线多 1k Token 整单翻倍的全量结算逻辑;预算感知截断,别再为 RAG 垃圾付双倍的钱交互3 min06图片 Token:像素也要交税输入分辨率实时算 Token 的计算器;32 像素对齐跳档、分辨率诅咒与图片成本三条红线交互3 min07输入主导:62:1 的 I/O RatioAgent 每一轮都要重读全部历史。逐轮点开一个 Excel 任务,看 Input 怎么滚到 31,460 Token交互3 min08Agent 四大成本陷阱与熔断工具返回爆炸、思考税、死循环、历史雪球:每个陷阱配一个能落地的策略,外加三条红线深入3 min09语法层:Prompt 是写给机器的加粗的 ** 就吃掉 8.5% Token;复杂对象用 YAML、扁平列表用 CSV、后台输出强制 Minified JSON实战3 min10语义层:双重蒸馏中段迷失效应:塞得越多越抓不住重点。动态 Few-Shot 从 4000 砍到 500,LLMLingua-2 压缩 5-20 倍实战3 min11架构层:KV Cache 的注意事项前缀匹配最高省 90%;动态切换工具为什么把缓存全打穿,滑动窗口 vs 章节缓存实战3 min12输出层:管住模型的嘴明确的负向约束砍掉 30% 废话;润色用 Diff 别重写整段;停止序列做物理截断实战3 min13算力时代的极简主义每一个 Token 都在为最终结果贡献价值吗?全景清单回顾 + 十八份按主题分类的延伸阅读收官3 min