ClearLeaf13/dsh-llamacpp-connect ↗★ 0
dsh-llamacpp-connect
将本地llama.cpp管理器中的模型接入DSH 适合本地部署开源模型的用户,可实现本地运行模型的自动识别与无缝调用。
安装
$
npx -p @deepseek-ai/dsh dsh plugin --profile web add github:ClearLeaf13/dsh-llamacpp-connect说明文档
阅读完整 README ↗使用
首次使用
- 打开 llama.cpp 管理器,确认里面已经配置好模型
- 在管理器里启动你要用的模型
- 打开 DSH 设置 → llama.cpp Connect 可以看到当前有几个在运行(也可直接看模型选择列表)
正在运行的模型会自动出现在 DSH 的模型选择器里,每个模型单独成组。
启动 / 停止模型
在 llama.cpp 管理器里操作即可,DSH 侧会自动跟上:
- 启动一个模型 → 约 15 秒内出现在模型选择列表里
- 停止一个模型 → 约 15 秒内从列表里消失
想立刻生效,就到配置页点一次 「立即刷新」。
注意:如果某个模型正被对话使用,而你在管理器里把它停掉了,它会在下一轮刷新时被移除,该对话后续请求会失败。
管理器里改了配置之后
比如改了模型名、别名或端口:插件在下一轮刷新时自动读到,也可以点 「立即刷新」 马上应用。插件只读管理器的配置,不会改写它。
首次使用
- 打开 llama.cpp 管理器,确认里面已经配置好模型
- 在管理器里启动你要用的模型
- 打开 DSH 设置 → llama.cpp Connect 可以看到当前有几个在运行(也可直接看模型选择列表)
正在运行的模型会自动出现在 DSH 的模型选择器里,每个模型单独成组。
管理器里改了配置之后
比如改了模型名、别名或端口:插件在下一轮刷新时自动读到,也可以点 「立即刷新」 马上应用。插件只读管理器的配置,不会改写它。
配置项
| 项 | 默认 | 说明 |
|---|---|---|
managerDir | 自动探测 | 手动指定管理器数据目录;留空则依次探测常见位置 |
在 profile 的 cordis.patch.yml 里覆盖:
- id: llamacpp-connect
config:
managerDir: 'D:\path\to\llm-manager'
重新评估运行状态的间隔固定为 15 秒;需要立刻生效时用配置页的「立即刷新」按钮。