Harness 核心 · 模型周围的 Harness

上下文压缩:四层防线

60% 裁剪 → 75% 微压缩 → 85% 折叠 → 95% 紧急,拖动滑块看压缩过程

本页解决的问题

先给结论

「上下文压缩:四层防线」要解决的关键问题是什么?

60% 裁剪 → 75% 微压缩 → 85% 折叠 → 95% 紧急,拖动滑块看压缩过程

判断标准

让这个结论先证明自己值得留下。 把这一页当成决策工具,而不是需要背下来的定义。把概念连到一个真实任务、一个可观察结果,以及一个能改变你判断的失败上。

下一步

写下一个问题:试完这个方法后,你能用什么证据回答它?

常见误区

结论听起来很完整,却没有检查最关键的假设。

四层压缩策略 安全区间
第一层 · 裁剪 Snip 120K(60%) -36K
删掉早期工具返回的超长原始数据,只保留摘要。用户完全无感
压缩前
天气 API 返回 1200 Token 的 JSON:未来 7 天逐小时预报…
压缩后
工具摘要:北京明日多云 12-20°C(80 Token)
第二层 · 微压缩 MicroCompact 150K(75%) -50K
把早期的长对话生成简短摘要替换。轻微信息损失,关键信息保留。
压缩前
第 3 轮:「那个文件不是 PDF 格式的,我需要 Word 版本,标题改成…」
压缩后
摘要:用户要求 Word 格式、改标题、调配色
第三层 · 折叠 Collapse 170K(85%) -80K
将多轮早期对话折叠成一条摘要消息。细节丢失,但主线保留。
压缩前
第 1-8 轮(12 条消息,4200 Token):讨论需求、确认方案、修改三次…
压缩后
会话摘要:React + TS 项目,当前修改报表页(350 Token)
第四层 · 紧急压缩 AutoCompact 190K(95%) -110K
全面压缩:只保留 system + 全局摘要 + 最近 3 轮。明显信息损失,但避免崩溃。
压缩前
20 轮完整对话(38 条消息,18000 Token)
压缩后
system + 摘要 + 最近 3 轮(2500 Token)
📌 设计决策:拖动滑块观察:没有压缩的话,200K 的上下文只够一次长对话。有了四层压缩,同样的窗口可以支撑 5 倍以上的对话量。
Takeaway
Takeaway 模型窗口 256K,安全空间 200K。四层压缩像防洪堤:每次快满时自动泄洪降水位,让同一个窗口承载远超 200K 的对话量。直到真的删无可删,才会超限。

「上下文压缩:四层防线」如何改变一次回答

「60% 裁剪 → 75% 微压缩 → 85% 折叠 → 95% 紧急,拖动滑块看压缩过程」说明,模型处理的不是我们眼中的“字数”,而是一段段 Token。Token 的切分方式会影响输入长度、上下文能放下多少内容,以及一次请求要花多少计算。

长度、信息量和上下文不是一回事

当「60% 裁剪 → 75% 微压缩 → 85% 折叠 → 95% 紧急,拖动滑块看压缩过程」变长时,先要分清三件事:文字被切成多少 Token、哪些内容真正参与当前判断、以及旧内容是否已经超出上下文窗口。删掉重复说明通常比单纯把窗口开得更大更有效。

先保留会改变判断的内容

可以用「60% 裁剪 → 75% 微压缩 → 85% 折叠 → 95% 紧急,拖动滑块看压缩过程」做一次对照:保留同样的问题,分别删掉重复背景、压缩格式和移除无关历史,比较答案质量、延迟与 Token 数量。

从这个例子继续往下看

页面先提出「60% 裁剪 → 75% 微压缩 → 85% 折叠 → 95% 紧急,拖动滑块看压缩过程」。接下来不要只记住这句话,可以把它变成一个小练习:写下输入、预期结果,以及什么现象会让你重新检查这个判断。

把这条判断带到下一个场景

处理长文本时,先保留会改变结论的内容,再决定如何压缩格式和历史;上下文更长只有在新增信息真正有用时才值得付出代价。

  • 「上下文压缩:四层防线」:60% 裁剪 → 75% 微压缩 → 85% 折叠 → 95% 紧急,拖动滑块看压缩过程

最后做一次小而可逆的练习:把页面里的判断放进一个真实输入,写下预期结果和会让你停下来复核的信号。

标记为已学完 阅读进度会自动记录
← 上一篇下一篇 →

继续阅读

同一条线上的下一篇。

文章讨论

读到这里,留下一个判断。

把刚想明白的地方、还没想通的问题,留给下一位一起学习的人。

正在讨论 上下文压缩:四层防线 模型周围的 Harness
3条讨论文章讨论 · 与共学社区同步
在共学社区查看
AM
Asha Morgan内容编辑
观点实践记录

我把这篇文章里的一个判断改写成了今天可以验证的小实验。比记住结论更有用的是,知道下一步要观察什么。

文章讨论7 有帮助
LH
Lin Harper独立开发者
观点观点

读完以后我先回头找它成立的条件,而不是直接把方法搬进项目。这个顺序让后面的取舍清楚很多。

文章讨论5 有帮助
KM
Kiki Moore产品运营
问题问题

如果把这个判断放到真实工作里,最先需要补的约束是什么?我想知道从阅读到第一次实践之间,哪一步最值得先做。

文章讨论4 有帮助