guangxiangwu6-cmd/dsh-llm-failover0

@deepseek-ai/dsh-llm-failover

Provider-level model failover (retry threshold -> cooldown -> next healthy model) for the DeepSeek Harness

AI 分析

核心用途是在当前大模型API请求连续失败达到阈值时,自动切换到备用模型池。适合对服务稳定性要求极高、拥有多个API Key或提供商渠道的用户。支持冷却期后自动恢复。

パッケージ
@deepseek-ai/dsh-llm-failover
バージョン
0.1.1-rc.4
ライセンス
MIT
最終更新
2026/08/27

インストール

検証済み bundle がないか、互換性チェックに失敗しています。先にリポジトリの説明を読んでください。 README 全文を読む ↗

ドキュメント

README 全文を読む ↗

配置(cordis.patch.yml 插件行 config)

- insert:
    - id: llm-failover
      name: '@deepseek-ai/dsh-llm-failover'
      config:
        enabled: true                  # 总开关;false 时行为与未安装本插件完全一致
        models:                        # 故障切换池,数组顺序 = 优先级
          - provider: deepseek-official
            model: deepseek-v4-flash
          - provider: my-siliconflow  # 例:llm-pi-ai settings 里的 profile 名
            model: deepseek-ai/DeepSeek-V3
        maxConsecutiveFailures: 5      # 同一 provider 连续失败多少次后切换
        cooldownSeconds: 60            # 标记不可用的冷却时长(必须 > 0;为 0 会导致路由抖动,校验会拒绝并回退默认值)
        autoRecover: true              # 冷却到期是否自动回到池中(false=直到重启或主动成功)
        maxSwitchesPerTurn: 8          # 单回合最大切换次数(防死循环保险)
        failoverOnRateLimit: true
        failoverOnTimeout: true
        failoverOnServerError: true
        failoverOnTransportError: true
        failoverOnStreamInterrupted: true
        failoverOnEmptyResponse: false
        failoverOnQuota: false

未配置键取默认值;未知键不会导致报错,只记录一条警告然后被忽略(配置错误一律降级,不阻断启动)。models 为空时插件保持惰性(仅日志提示),配置池后才实际切换。