概要
OpenModexのインテリジェントルーティングエンジンは、各リクエストに対して最適なプロバイダーを自動的に選択します。単一のプロバイダーをハードコーディングする代わりに、優先事項に基づいてOpenModexに選択を任せることができます。ルーティング戦略
コスト最適化
リクエストを処理できる最も安価なプロバイダーにルーティングします:レイテンシー最適化
最も高速な利用可能なプロバイダーにルーティングします:品質最適化
最も高い品質スコアを持つプロバイダーにルーティングします:サーバーサイドフォールバック
プライマリモデルが失敗した場合に自動的に実行されるフォールバックチェーンを定義します:gpt-4oが利用できない場合(5xxまたはレート制限)、OpenModexは自動的にclaude-3.5-sonnetを試し、次にgemini-2.0-flashを試します。
アップグレード許可
同じ価格帯でより高性能なモデルが利用可能な場合に、OpenModexがそのモデルにルーティングすることを許可します:サーキットブレーカー
OpenModexはプロバイダーの健全性をリアルタイムで監視します。プロバイダーが障害を起こし始めると:- 正常 — リクエストは通常通りルーティング
- 劣化 — 連続した障害後、トラフィックが削減される
- オープン — プロバイダーがルーティングから一時的に除外される
- リカバリー — 定期的なヘルスチェックによりプロバイダーが復元される