guangxiangwu6-cmd/dsh-llm-failover0

@deepseek-ai/dsh-llm-failover

Provider-level model failover (retry threshold -> cooldown -> next healthy model) for the DeepSeek Harness

AI 분석

核心用途是在当前大模型API请求连续失败达到阈值时,自动切换到备用模型池。适合对服务稳定性要求极高、拥有多个API Key或提供商渠道的用户。支持冷却期后自动恢复。

패키지
@deepseek-ai/dsh-llm-failover
버전
0.1.1-rc.4
라이선스
MIT
최근 업데이트
2026. 8. 27.

설치

검증된 bundle이 없거나 호환성 검사에 실패했습니다. 먼저 저장소 설명을 읽어 주세요. 전체 README 읽기 ↗

配置(cordis.patch.yml 插件行 config)

- insert:
    - id: llm-failover
      name: '@deepseek-ai/dsh-llm-failover'
      config:
        enabled: true                  # 总开关;false 时行为与未安装本插件完全一致
        models:                        # 故障切换池,数组顺序 = 优先级
          - provider: deepseek-official
            model: deepseek-v4-flash
          - provider: my-siliconflow  # 例:llm-pi-ai settings 里的 profile 名
            model: deepseek-ai/DeepSeek-V3
        maxConsecutiveFailures: 5      # 同一 provider 连续失败多少次后切换
        cooldownSeconds: 60            # 标记不可用的冷却时长(必须 > 0;为 0 会导致路由抖动,校验会拒绝并回退默认值)
        autoRecover: true              # 冷却到期是否自动回到池中(false=直到重启或主动成功)
        maxSwitchesPerTurn: 8          # 单回合最大切换次数(防死循环保险)
        failoverOnRateLimit: true
        failoverOnTimeout: true
        failoverOnServerError: true
        failoverOnTransportError: true
        failoverOnStreamInterrupted: true
        failoverOnEmptyResponse: false
        failoverOnQuota: false

未配置键取默认值;未知键不会导致报错,只记录一条警告然后被忽略(配置错误一律降级,不阻断启动)。models 为空时插件保持惰性(仅日志提示),配置池后才实际切换。