Skip to main content

概述

OpenModex 的智能路由引擎会自动为每个请求选择最优供应商。无需硬编码单一供应商,您可以让 OpenModex 根据您的优先级进行选择。

路由策略

成本优化

路由到能满足请求的最便宜供应商:

延迟优化

路由到最快的可用供应商:

质量优化

路由到质量评分最高的供应商:

服务端故障转移

定义一个故障转移链,当主模型失败时自动执行:
如果 gpt-4o 不可用(5xx 或速率限制),OpenModex 会自动尝试 claude-3.5-sonnet,然后尝试 gemini-2.0-flash。

允许升级

让 OpenModex 在同一价格区间有更优模型可用时自动路由:

熔断器

OpenModex 实时监控供应商健康状态。当供应商开始出现故障时:
  1. 健康 — 请求正常路由
  2. 降级 — 连续失败后,流量被减少
  3. 打开 — 供应商被临时从路由中移除
  4. 恢复 — 定期健康检查恢复供应商
这一切自动发生 — 您无需进行任何配置。

查看路由详情

每个响应都包含路由元数据: