三层埋点：如何确认模型真正收到了什么
一次失败的排查让我明白：观测点放错位置，看到的都是别人的转述。
把做过的事写清楚：问题、数据、复盘。
共 3 篇文章
六层记忆：在有限上下文里保留最有用的信息
上下文只有那么大，而对话会一直增长。分层不是复杂度，是取舍。
把大模型前缀缓存命中率从 58% 提升到 93%
一次完整的问题定位：两次误判、三层埋点，最后发现根因只有一行配置。
共 3 篇文章
一次失败的排查让我明白：观测点放错位置，看到的都是别人的转述。
上下文只有那么大，而对话会一直增长。分层不是复杂度，是取舍。
一次完整的问题定位：两次误判、三层埋点，最后发现根因只有一行配置。