配置渠道和模型
适用场景
当需要接入新的模型供应商、内部推理服务或 OpenAI 兼容服务时，需要创建渠道，同步模型并启用可用模型。
前提条件
- 已获得上游模型服务的访问地址和凭证。
- 网关节点能访问上游服务地址。
- 上游地址符合 SSRF 安全策略。
创建渠道
- 进入 渠道管理 页面。
- 点击 创建渠道。
- 输入渠道名称，例如
openai-prod-east。 - 选择渠道类型或协议类型。
- 填写上游服务地址。
- 填写上游访问凭证。
- 配置超时时间、优先级、权重和健康探测参数。
- 点击 保存。
同步模型
- 在 渠道管理 页面选择目标渠道。
- 点击 同步模型。
- 等待同步任务完成。
- 进入 模型管理 或渠道详情页查看同步出的模型列表。
- 对需要开放的模型执行 启用。
Note:
最新版本中，没有启用模型行的渠道不会参与路由。创建渠道后必须完成模型同步并启用目标模型，否则调用时可能出现 no_available_channel。
字段说明
| 字段 | 说明 |
|---|---|
| 渠道名称 | 建议包含供应商、区域和用途。 |
| 上游地址 | 模型服务 API 基础地址（Base URL）。 |
| 凭证 | 上游 API Key 或认证信息。 |
| 优先级 | 用于路由选择。 |
| 权重 | 多个同级渠道之间的流量比例。 |
| 健康探测 | 用于判断渠道是否可用。 |
| 模型列表 | 该渠道可承载的模型。 |
验证方式
- 在渠道详情页执行 测试连接 或 健康探测。
- 使用目标模型发起一次
/v1/chat/completions调用。 - 在 用量日志 中确认实际命中的渠道名称。
注意事项
- 生产渠道建议至少配置一个备用渠道。
- 不要把测试供应商凭证配置到生产渠道。
- 上游地址变更后，应重新执行健康探测和模型同步。