leeingo136-blip/dsh-plugin-cfl--packages-dsh-plugin-llama-local ↗★ 0

dsh-plugin-llama-local

本地 GGUF 小模型账号插件:node-llama-cpp 在进程内运行 llama.cpp(GGUF),默认加载 xLAM-2-3b 函数调用模型,可触发 harness 技能/工具 本地离线推理工具。适合需要在本地运行轻量级模型并触发工具调用的用户。

Package
dsh-plugin-llama-local
Compatibility
Unverified
Harness peer range
0.2.0-rc.2
Cordis peer range
~4.0.4
Version
0.1.0
License
MIT
Last updated
Oct 10, 2026

Install

$npx -p @deepseek-ai/dsh dsh plugin --profile web add github:leeingo136-blip/dsh-plugin-cfl#f2564f98f53d76789f290517e5564858dee6fc08&path:packages/dsh-plugin-llama-local

四、使用

  1. 重启应用 → 设置-账号 → 找到「本地模型」→ 点「启用本地模型」(权重缺失时自动下载,见第三节);
  2. 卡片状态 下载中…(首次)/ 加载中… → 已就绪;启用会发布注册中心变更事件,模型选择器的目录随即重载,无需重启;
  3. 在模型选择器里选「本地模型」,发一句话。

停用后模型组从目录消失,权重也不再驻留内存。