配置路由策略
适用场景
当一个模型存在多个可用渠道，或不同组织需要使用不同渠道时，可通过路由策略管理路由规则。
前提条件
- 已创建并启用至少一个渠道。
- 目标渠道已同步并启用对应模型。
- 管理员具备路由策略管理权限。
操作步骤
- 进入 路由策略 页面。
- 点击 创建策略。
- 输入策略名称，例如
prod-gpt-4o-primary-backup。 - 选择适用组织或适用范围。
- 选择目标模型。
- 添加主渠道，并设置优先级和权重。
- 添加备用渠道，并设置较低优先级。
- 配置失败切换策略。
- 点击 保存。
- 使用目标组织的 API Key 发起调用，验证命中的渠道。
路由策略建议
| 场景 | 建议 |
|---|---|
| 生产关键模型 | 至少配置主备两个渠道。 |
| 成本敏感模型 | 将低成本渠道设为主渠道，高质量渠道设为备用。 |
| 组织隔离 | 为不同组织配置不同策略。 |
| 灰度验证 | 为测试组织单独配置灰度渠道。 |
验证方式
在 用量日志 中筛选目标模型和组织，确认请求命中了预期渠道。也可在指标系统中观察渠道请求量变化。
注意事项
- 路由策略不应绕过模型访问权限和配额限制。
- 渠道没有启用模型行时，即使写入策略也不会被选中。
- 调整生产路由前，建议在测试组织中验证。