iuuuuuuuu/dsh-coldread-cache ↗★ 5
dsh-coldread-cache
DSH plugin: keep a session's parsed event log resident so a local append extends the resident parse instead of invalidating it — a long session is parsed once per host process, not once per read. 适合拥有超长会话、需要减少本地读取和解析卡顿、提升响应速度的用户。
설치
npx -p @deepseek-ai/dsh dsh plugin --profile web add github:iuuuuuuuu/dsh-coldread-cache配置
| 键 | 默认值 | 含义 |
|---|---|---|
enabled | true | 允许从常驻结果直接返回 |
maxEntries | 8 | 本进程常驻的会话数 |
maxResidentBytes | 134217728 | 常驻源字节总量 |
statusFile | "" | 可选的实时诊断文件路径 |
前两项是进程的内存策略。后端自己那份两条的缓存原样不动。
这个预算是按压缩后的源字节算的,但你付的是堆。实测一份解析出来的日志约等于
源字节的 8 倍(202 MB 的会话在堆上约 1207 MB):所以默认 128 MB 预算大约值 1 GB 堆。
statusFile 里的 resident.heapEstimateBytes / heapRatio 就是这份实时估算——比例由真实
冷读采样得到,不是写死的常数。内存宽裕的机器可以调大它。
**这个默认值试过调小,实测后撤回了。**直觉是「预算小一点省内存、行为不变」,但用真实会话 量了一遍(1 个会话在写、4 个在读):
| 预算 | 常驻 | 常驻命中率 |
|---|---|---|
| 16 MB | 35 MB | 14% |
| 32 MB | 35 MB | 14% |
| 64 MB | 35 MB | 14% |
| 128 MB | 99 MB | 53% |
| 256 MB | 167 MB | 93% |
原因:真正解决卡顿的那条路径(把「追加后立刻读」交给常驻解析扩展)16 MB 就够——因为 被写入的会话排在只被读的会话前面。预算再往上买的是纯读会话的常驻:翻历史、会话列表、 来回切会话。所以 128 MB 是「能服务一个真实工作集」的最小值;调小是拿一个实测到的功能退化 去换一个不是瓶颈的内存节省。
什么时候扩展次数才会涨
extensions 这个计数器只在一种情况下会涨:宿主对某个会话追加之后,又去读同一个会话。
把三种流量形状都量了一遍(各 8 轮,真实会话,fixture 共 254 MB):
| 流量形状 | 扩展 | 冷读 |
|---|---|---|
| 追加后读同一个会话(32 MB 预算) | 8 | 0 |
| 追加后读同一个会话(128 MB 预算) | 8 | 0 |
| 追加后先读 4 个别的会话(32 MB 预算) | 8 | 32 |
| 追加后先读 4 个别的会话(128 MB 预算) | 8 | 32 |
| 只读、不追加 | 0 | 15 |
所以「extensions: 0」本身不是故障:如果宿主那段时间只是在翻会话、没有在某个会话里连续
跑轮次,扩展就该是 0,而 coldParses 会涨。判断插件有没有在工作,看的是追加之后那次读
有没有走扩展,而不是看扩展的绝对次数。另外两条也顺手排除了:写句柄那条分支(宿主自己的
「追加→读回」循环会走快速路径)和预算大小(32 MB 下带旁观流量照样 8/8 扩展)。
为什么会在长时间使用后变卡(已修)
扩展路径每轮都会深冻结整条会话的事件图:Object.freeze 要递归走到每个对象。
这本身是对的(冻结是为了和后端行为一致),但它在扩展时被套在了全部事件上,而不是
只套在新追加的那几个上。于是每轮都要重新走一遍整条会话——成本随会话变长而线性增长。
在 6 万事件的日志上实测:
| 每轮扩展的动作 | 耗时 |
|---|---|
| 冻结结果里的每一个事件(改前) | 191.7 / 199.5 ms(两次) |
| 只冻结新追加的事件(改后) | 0.4 / 1.8 ms(两次) |
concat 本身(无法省) | 0.3 ms |
一个 100 轮的会话大约要为此花 20 秒纯冻结——这就是「用得越久越卡」的一个真实来源,
而且是插件自己引入的。修法有两条,互为保险:① 扩展时只冻结新事件;② freezeStoredEvent
遇到已经冻结的根就直接返回(已冻结的根意味着整棵图都冻结了,因为冻结永远是整图一次
完成的)。第 ② 条让第 ① 条即使漏掉某条路径也不会退化。门禁里有一条断言遍历扩展后的真实
结果、确认每个事件都深冻结,并且用一个故意留开口的对象证明这条断言能真的报出问题。
修完后的 A/B 中位数:131 ms(改前约 500 ms)。
淘汰顺序
常驻满了先淘汰谁,是按读的最近性吗?不是——那样在真实宿主上会失效。旁观会话的读取
本身就是一次冷读,冷读会让那条会话变成「最近使用」,于是正在被写入的那条会话反而被挤
出去,而「追加后立刻读」恰恰是本插件唯一的目标场景。实测:宿主连续跑 85 分钟、405 次读由
常驻服务、扩展次数 0,回退原因全是 no-entry。
所以规则改成:被写入过的会话优先于只被读过的会话。同级之间按最近读取淘汰,最后一条永
不淘汰。门禁里有一条专门的回归断言,并且用故障注入证明它能变红(把写入排名关掉,同一条
断言必须失败)。resident.hot 是当前被标记为「写入中」的会话数。
statusFile 是排查用的:写一份实时文档(心跳刷新),说明这份进程实际装上了哪些钩子、
命中了多少次、回退的原因分布。一个静默失效的插件比一个从没装上的插件更糟,所以留了这个
口子。
为什么会在长时间使用后变卡(已修)
扩展路径每轮都会深冻结整条会话的事件图:Object.freeze 要递归走到每个对象。
这本身是对的(冻结是为了和后端行为一致),但它在扩展时被套在了全部事件上,而不是
只套在新追加的那几个上。于是每轮都要重新走一遍整条会话——成本随会话变长而线性增长。
在 6 万事件的日志上实测:
| 每轮扩展的动作 | 耗时 |
|---|---|
| 冻结结果里的每一个事件(改前) | 191.7 / 199.5 ms(两次) |
| 只冻结新追加的事件(改后) | 0.4 / 1.8 ms(两次) |
concat 本身(无法省) | 0.3 ms |
一个 100 轮的会话大约要为此花 20 秒纯冻结——这就是「用得越久越卡」的一个真实来源,
而且是插件自己引入的。修法有两条,互为保险:① 扩展时只冻结新事件;② freezeStoredEvent
遇到已经冻结的根就直接返回(已冻结的根意味着整棵图都冻结了,因为冻结永远是整图一次
完成的)。第 ② 条让第 ① 条即使漏掉某条路径也不会退化。门禁里有一条断言遍历扩展后的真实
结果、确认每个事件都深冻结,并且用一个故意留开口的对象证明这条断言能真的报出问题。
修完后的 A/B 中位数:131 ms(改前约 500 ms)。