概述
OpenModex 的智能路由引擎会自动为每个请求选择最优供应商。无需硬编码单一供应商,您可以让 OpenModex 根据您的优先级进行选择。路由策略
成本优化
路由到能满足请求的最便宜供应商:延迟优化
路由到最快的可用供应商:质量优化
路由到质量评分最高的供应商:服务端故障转移
定义一个故障转移链,当主模型失败时自动执行:gpt-4o 不可用(5xx 或速率限制),OpenModex 会自动尝试 claude-3.5-sonnet,然后尝试 gemini-2.0-flash。
允许升级
让 OpenModex 在同一价格区间有更优模型可用时自动路由:熔断器
OpenModex 实时监控供应商健康状态。当供应商开始出现故障时:- 健康 — 请求正常路由
- 降级 — 连续失败后,流量被减少
- 打开 — 供应商被临时从路由中移除
- 恢复 — 定期健康检查恢复供应商