Zhuchen00123/dsh-compaction-cacheaware0

dsh-compaction-cacheaware

适用于 DSH 的缓存感知压缩后端:通过压缩比例、结构化摘要检查点和稳定的近期尾部消息来增强基础压缩机制。

AI 分析

核心用途是优化长对话的上下文压缩,提高缓存命中率并减少 Token 浪费。适合频繁进行超长对话、关注推理成本的用户。

套件
dsh-compaction-cacheaware
版本
0.1.2
授權
MIT
最近更新
2026年8月16日

安裝

此插件尚未提供可驗證的 bundle,或相容性檢查未通過。請先閱讀倉庫說明。 閱讀完整 README ↗

Configuration

KeyDefaultMeaning
compactRatio0.85Sole automatic trigger fraction.
checkpointCeilingRatio0.5Normal auto-checkpoint acceptance ceiling.
recentTailRatio0.1Recent verbatim tail fraction.
recentTailMinTokens32768Lower bound for production tail.
recentTailMaxTokens98304Upper bound for production tail.
summaryMaxTokens16384Summarizer output cap.
exceptionalMinSavingsRatio0.25Required savings when fixed prefix exceeds ceiling.
minRecentKeep2Minimum recent messages kept.
minCompactMessages2Minimum compactable messages.
maxPinnedFirstUserTokens1500Pin first user turn if ≤ this.
pinnedFirstUserWindowFrac0.15First-user pin window fraction cap.
protocolReserveTokens256Framing reserve.
summarizationProvider / summarizationModel''Optional summary route; defaults to conversation route.
autotrueRegister automatic pressure/overflow listeners.