wesleyel/dsh-plugin-gpt-load ↗★ 0
dsh-plugin-gpt-load
DeepSeek Harness plugin that serves every gpt-load model from one provider group, each model on its own wire protocol (OpenAI Chat Completions or Anthropic Messages), synced from /api/models
安装
$
npx -p @deepseek-ai/dsh dsh plugin --profile web add github:wesleyel/dsh-plugin-gpt-load说明文档
阅读完整 README ↗配置
安装后重启 harness,在 设置 → GPT-Load 里填网关地址(例如 http://127.0.0.1:3001)与 AccessKey,点「立即同步模型」即可。
也可以在 profile 里预置:
plugins:
gpt-load-sync:
endpoint: http://127.0.0.1:3001 # 可留空,稍后在 Web UI 填
apiKey: gl-your-access-key # 可留空,稍后在 Web UI 填
displayName: GPT-Load # 分组显示名
defaultProtocol: auto # auto | openai-completions | anthropic-messages
syncOnStart: true
syncIntervalMinutes: 60
协议判定规则
优先级从高到低:
- 模型自身的
protocol(设置里的显式选择,重启后保留); - 上游
protocols只允许一种可服务协议 → 直接采用; - 上游允许两种 → 全局
defaultProtocol生效则用它,否则取上游列表第一个(auto); - 上游未声明 →
openai-completions。
只有 openai-completions 与 anthropic-messages 两种协议可服务,上游声明的 openai-responses、gemini 等会被忽略。
实际部署中模型往往同时声明两种协议,
auto会按上游顺序取第一个。想让 Claude 之类走 Anthropic,请在模型列表里单独选择,或把默认协议设为anthropic-messages。
从旧版本升级
旧版本写入的 llm-pi-ai 路由(gpt-load / gpt-load-anthropic)会被自动接管:先还原 endpoint,再移除这两条路由。其余 provider 不受影响。