KoboldCpp for DeepSeek Harness

dsh-koboldcpp-hands — 给 DeepSeek Harness 的智能体一双本地的手。

English · 中文

一个为 DeepSeek Harness 编写的第三方工具插件：让在线大模型（你的主对话模型）把重复、耗 token 的简单劳动交给本机 KoboldCpp（llama.cpp）服务器完成——包括纯文本工作和视觉工作（识图 / OCR / 图片对比）。

主模型保持在你部署的位置不变。当它认为某个任务更适合本地完成时，它会调用：

• koboldcpp_run — 在本地文本模型上运行一条提示词（批量改写、名字翻译、字符串处理、短文本摘要、结构化提取）。
• koboldcpp_vision — 把图片交给本地多模态模型（OCR、图像分析、多图对比），使用结构化报告模板。

插件负责本地服务器生命周期：用你的 KoboldCpp 可执行文件和你的 .kcpps 启动配置（后端、模型、mmproj、端口都在里面）按需拉起，等待模型加载完成，并按 stopBehavior（exit / idle / never）停止。你自己启动的 KoboldCpp 会被复用，绝不会被杀死。

---

做了哪些事（What it does）

• 两个模型可见工具，按官方 dsh-tools 契约注册（defineTool、canonical JSON 返回值、纯 render/presenter、exec.signal 转发）。
• 按需的服务器生命周期：首次工具调用才拉起 exePath（带你的 kcppsPath + --port），轮询 /v1/models 直到健康；服务器崩溃后自动自愈；按 stopBehavior 停止。Windows 上做进程树终止（taskkill /T），因为 KoboldCpp 会自我派生子进程。
• 文本 + 视觉 wire 支持：非流式 OpenAI 兼容 chat-completions；图片按标准多模态 content 数组发送。
• 三种图片来源（视觉工具）：本地文件路径、/ URL、或当前会话中已附带的图片（经 harness attachment 服务读取）。：会话附件来源要求主模型声明支持图片输入，纯文本主模型下只有 / 可用（见「当前版本限制」一节）。