动态时间戳：最贵的 System Prompt

从「错误 vs 正确设计」走到「实时对比模拟」

「错误 vs 正确设计」先把问题落在「❌ 错误设计 System: 你是助手。 当前时间: 2026-04-10 14:35:22 ... 0% 缓存命中率 +100% 额外成本 ✅ 正确设计 System: 你是助手。 （不含时间） User: [ 2026-04-10 ] 请帮我... ~95% 缓存命中率 -70% 成本节省」上；到了「实时对比模拟」，讨论继续推进到「实时对比 --:--:-- 每秒发一次请求 ❌ 动态时间戳（精确到秒） System: 你是助手。 当前时间: --:--:-- ... ⏳ 等待请求... 缓存命中率 0% ✅ 静态 System Prompt System: 你是助手。 （不含时间） User: [ -- ] ... ⏳ 等待请求... 缓存命中率 0% 0 总请求数 0 左侧 Cache Miss 0 右侧 Cache Hit — 右侧节省成本…」。两段连起来，重点就不只是记住一个结论，而是看清它成立所依赖的条件。

把这条判断带到下一个场景

遇到一个新的数据结构时，不要从定义开始背。先写出最频繁的操作，再估计数据量和更新方式，最后检查结构是否让这三个条件同时成立。

• 「错误 vs 正确设计」：❌ 错误设计 System: 你是助手。 当前时间: 2026-04-10 14:35:22 ... 0% 缓存命中率 +100% 额外成本 ✅ 正确设计 System: 你是助手。 （不含时间） User: [ 2026-04-10 ] 请帮我... ~95% 缓存命中率 -70% 成本节省
• 「实时对比模拟」：实时对比 --:--:-- 每秒发一次请求 ❌ 动态时间戳（精确到秒） System: 你是助手。 当前时间: --:--:-- ... ⏳ 等待请求... 缓存命中率 0% ✅ 静态 System Prompt System: 你是助手。 （不含时间） User: [ -- ] ... ⏳ 等待请求... 缓存命中率 0% 0 总请求数 0 左侧 Cache Miss 0 右侧 Cache Hit — 右侧节省成本…
• 「其他常见杀手」：其他常见的 KV Cache 杀手： 精确到秒的时间戳 随机 Session ID 用户 ID 前缀 A/B 测试变量 随机 emoji 前缀 动态广告文案 任何让 System Prompt 每次不同的内容，都会导致缓存完全失效。 🔒 原则：System Prompt = 固定前缀。 把动态内容（时间、用户信息、随机性内容）放到 User 消息里，不要放进 System Prompt

最后的「其他常见杀手」把讨论落到「其他常见的 KV Cache 杀手： 精确到秒的时间戳 随机 Session ID 用户 ID 前缀 A/B 测试变量 随机 emoji 前缀 动态广告文案 任何让 System Prompt 每次不同的内容，都会导致缓存完全失效。 🔒 原则：System Prompt = 固定前缀。 把动态内容（时间、用户信息、随机性内容）放到 User 消息里，不要放进 System Prompt」。回看这条线索时，最值得保留的是：当输入、规模或风险改变，哪些判断需要重新做一遍。