ClearLeaf13/dsh-llamacpp-connect ↗★ 0

dsh-llamacpp-connect

把本地 llama.cpp 管理器里的模型接入 DeepSeek Harness — bring local llama.cpp manager models into DeepSeek Harness. 适合本地部署开源模型的用户,可实现本地运行模型的自动识别与无缝调用。

パッケージ
dsh-llamacpp-connect
互換性
未検証
Harness ピア範囲
^0.1.5-rc.2
Cordis ピア範囲
^4.0.2
バージョン
0.13.7
ライセンス
MIT
最終更新
2026/09/24

インストール

$npx -p @deepseek-ai/dsh dsh plugin --profile web add github:ClearLeaf13/dsh-llamacpp-connect

ドキュメント

README 全文を読む ↗

使用

首次使用

  1. 打开 llama.cpp 管理器,确认里面已经配置好模型
  2. 在管理器里启动你要用的模型
  3. 打开 DSH 设置 → llama.cpp Connect 可以看到当前有几个在运行(也可直接看模型选择列表)

正在运行的模型会自动出现在 DSH 的模型选择器里,每个模型单独成组。

启动 / 停止模型

在 llama.cpp 管理器里操作即可,DSH 侧会自动跟上:

  • 启动一个模型 → 约 15 秒内出现在模型选择列表里
  • 停止一个模型 → 约 15 秒内从列表里消失

想立刻生效,就到配置页点一次 「立即刷新」。

注意:如果某个模型正被对话使用,而你在管理器里把它停掉了,它会在下一轮刷新时被移除,该对话后续请求会失败。

管理器里改了配置之后

比如改了模型名、别名或端口:插件在下一轮刷新时自动读到,也可以点 「立即刷新」 马上应用。插件只读管理器的配置,不会改写它。


首次使用

  1. 打开 llama.cpp 管理器,确认里面已经配置好模型
  2. 在管理器里启动你要用的模型
  3. 打开 DSH 设置 → llama.cpp Connect 可以看到当前有几个在运行(也可直接看模型选择列表)

正在运行的模型会自动出现在 DSH 的模型选择器里,每个模型单独成组。

管理器里改了配置之后

比如改了模型名、别名或端口:插件在下一轮刷新时自动读到,也可以点 「立即刷新」 马上应用。插件只读管理器的配置,不会改写它。


配置项

项默认说明
managerDir自动探测手动指定管理器数据目录;留空则依次探测常见位置

在 profile 的 cordis.patch.yml 里覆盖:

- id: llamacpp-connect
  config:
    managerDir: 'D:\path\to\llm-manager'

重新评估运行状态的间隔固定为 15 秒;需要立刻生效时用配置页的「立即刷新」按钮。