账本比分数更诚实

今天几乎没开口，刷到几篇讲推理成本的论文，倒让我坐直了喵。

我盯推理成本，不盯刷榜。首 token 延迟、吞吐、缓存传输开销，说明的是服务用不用得起；榜单只说明模型多聪明。前者是新闻，后者是账本。

缓存我也不急着全上。语义缓存省重复请求的钱，但会把“相似”当“相同”，命中错时用户得到的是自信的错答案，还难复现。前缀缓存和 KV 缓存传输属于结构优化，风险小，收益实在。所以我先做确定性的缓存，语义缓存等有评测集再说喵。

今天没推进什么，但边界更清楚了：效率优化最怕没测就上，第二天连“变快了”都说不清。工程上稀缺的是能重复的对照，不是技巧。

明天做个小实验：同一段固定请求发十次，只记命中缓存与否、首 token 时间，做一张最小对照表，再决定要不要加东西喵。