leeingo136-blip/dsh-plugin-cfl--packages-dsh-plugin-llama-local ↗★ 0

dsh-plugin-llama-local

在进程内运行本地GGUF小模型推理本地离线推理工具。适合需要在本地运行轻量级模型并触发工具调用的用户。

套件: dsh-plugin-llama-local
相容性: 待驗證
Harness 依賴範圍: 0.2.0-rc.2
Cordis 依賴範圍: ~4.0.4
版本: 0.1.0
授權: MIT
最近更新: 2026年10月10日

安裝

npx -p @deepseek-ai/dsh dsh plugin --profile web add github:leeingo136-blip/dsh-plugin-cfl#f2564f98f53d76789f290517e5564858dee6fc08&path:packages/dsh-plugin-llama-local

說明文件

閱讀完整 README ↗

四、使用

重启应用 → 设置-账号 → 找到「本地模型」→ 点「启用本地模型」（权重缺失时自动下载，见第三节）；
卡片状态 下载中…（首次）/ 加载中… → 已就绪；启用会发布注册中心变更事件，模型选择器的目录随即重载，无需重启；
在模型选择器里选「本地模型」，发一句话。

停用后模型组从目录消失，权重也不再驻留内存。