跳到内容
DeepToken推理与计费网关
首页控制台模型文档定价博客
    路由与故障转移

    路由与故障转移

    多供应商路由与健康感知的故障转移

    为多家供应商与多区域配置路由规则。当上游供应商降级、超时或限流时,请求会自动切换到健康节点。

    配置路由查看定价
    降低单一供应商风险延迟感知路由模型级路由策略

    能力概览

    多家

    每个模型多供应商

    实时

    实时健康判断

    1 条流程

    无需改动业务代码

    核心优势

    基于平台已有能力整理的关键价值点。

    优势

    01

    降低单一供应商风险

    单一上游故障时流量自动转移到 fallback 供应商,避免直接影响业务方。

    优势

    02

    延迟感知路由

    基于滚动窗口的延迟与成功率,优先选择表现最佳的供应商。

    优势

    03

    模型级路由策略

    针对每个模型独立配置路由优先级、fallback 链路和超时策略。

    推荐工作流

    用三步将功能融入你的日常创作或投放流程。

    步骤 1

    定义路由

    为每个模型 ID 配置首选供应商与有序 fallback 链路。

    1

    步骤 2

    设置策略

    设置超时、重试上限与健康阈值,匹配业务的延迟与可用性预算。

    2

    步骤 3

    监控并调优

    在控制台查看供应商健康度与 fallback 触发率,根据流量持续优化策略。

    3

    常见问题

    什么情况下会触发 fallback?

    上游超时、5xx 错误、限流错误或健康指标越界,都会触发到链路上下一个供应商的 fallback。

    可以为特定请求关闭 fallback 吗?

    可以。通过请求级和 Key 级的策略覆盖,可在需要时强制指定供应商。

    下一步

    准备开始了吗?

    从工具页直接开始,用真实需求验证效果并沉淀你的最佳实践。

    配置路由返回功能中心