wesleyel/dsh-plugin-gpt-load0

dsh-plugin-gpt-load

DeepSeek Harness plugin that serves every gpt-load model from one provider group, each model on its own wire protocol (OpenAI Chat Completions or Anthropic Messages), synced from /api/models

包名
dsh-plugin-gpt-load
版本
1.0.0
许可证
MIT
最近更新
2026年9月10日

安装

$npx -p @deepseek-ai/dsh dsh plugin --profile web add github:wesleyel/dsh-plugin-gpt-load

配置

安装后重启 harness,在 设置 → GPT-Load 里填网关地址(例如 http://127.0.0.1:3001)与 AccessKey,点「立即同步模型」即可。

也可以在 profile 里预置:

plugins:
  gpt-load-sync:
    endpoint: http://127.0.0.1:3001   # 可留空,稍后在 Web UI 填
    apiKey: gl-your-access-key        # 可留空,稍后在 Web UI 填
    displayName: GPT-Load             # 分组显示名
    defaultProtocol: auto             # auto | openai-completions | anthropic-messages
    syncOnStart: true
    syncIntervalMinutes: 60

协议判定规则

优先级从高到低:

  1. 模型自身的 protocol(设置里的显式选择,重启后保留);
  2. 上游 protocols 只允许一种可服务协议 → 直接采用;
  3. 上游允许两种 → 全局 defaultProtocol 生效则用它,否则取上游列表第一个(auto);
  4. 上游未声明 → openai-completions

只有 openai-completionsanthropic-messages 两种协议可服务,上游声明的 openai-responsesgemini 等会被忽略。

实际部署中模型往往同时声明两种协议,auto 会按上游顺序取第一个。想让 Claude 之类走 Anthropic,请在模型列表里单独选择,或把默认协议设为 anthropic-messages

从旧版本升级

旧版本写入的 llm-pi-ai 路由(gpt-load / gpt-load-anthropic)会被自动接管:先还原 endpoint,再移除这两条路由。其余 provider 不受影响。