agent-jit
Agent JIT: a compiler/runtime that offloads deterministic execution paths from LLM agent loops.
AI 분석
通过将确定性数据流交由运行时处理,显著减少 AI 解决复杂任务时的 Token 消耗。适合追求高性价比、高确定性 Agent 任务执行的开发者。
설치
$
npx -p @deepseek-ai/dsh dsh plugin --profile web add github:sybolization/agent-jitR5:自主 offload(模型自己决定是否使用 JIT)
| 臂 | adoption | offload precision | task 完成率 | tokens |
|---|---|---|---|---|
| Control B(不提供 JIT) | — | — | 100% | 24,151 |
| Treatment B(提供 JIT) | 90% | 100% | 100% | 14,976(-38%) |
- 在"明显值得程序化"的任务上,模型自主选择 offload 9/10,且全部语义正确;
- 在"不值得 JIT"的简单任务上 unnecessary offload 为 0%——DSL 参考按需加载,不使用 JIT 的成本接近零。
机制不是"模型更聪明",而是:确定性数据流由 runtime 消费,而不是由 LLM context 消费。
配置
插件行 config(可被用户 patch 层覆盖):
providers:
github: mock # mock | real(GITHUB_TOKEN)| none
domain: mock # mock | none
dsl:
signatureInDescription: inline # 业务工具 description 注入 DSL 签名(inline | none)
systemPrompt: true # 常驻 DSL 语言参考 system prompt section
guidance: primitive # primitive | patterns | full-example
describeTools: true # 是否注册 jit_describe_tools
hostTools: [] # 可被 DSL 编排的 DSH 宿主工具名(如 run_bash),经嵌套分发走完整策略管线