Skip to main content

概要

OpenModexのインテリジェントルーティングエンジンは、各リクエストに対して最適なプロバイダーを自動的に選択します。単一のプロバイダーをハードコーディングする代わりに、優先事項に基づいてOpenModexに選択を任せることができます。

ルーティング戦略

コスト最適化

リクエストを処理できる最も安価なプロバイダーにルーティングします:

レイテンシー最適化

最も高速な利用可能なプロバイダーにルーティングします:

品質最適化

最も高い品質スコアを持つプロバイダーにルーティングします:

サーバーサイドフォールバック

プライマリモデルが失敗した場合に自動的に実行されるフォールバックチェーンを定義します:
gpt-4oが利用できない場合(5xxまたはレート制限)、OpenModexは自動的にclaude-3.5-sonnetを試し、次にgemini-2.0-flashを試します。

アップグレード許可

同じ価格帯でより高性能なモデルが利用可能な場合に、OpenModexがそのモデルにルーティングすることを許可します:

サーキットブレーカー

OpenModexはプロバイダーの健全性をリアルタイムで監視します。プロバイダーが障害を起こし始めると:
  1. 正常 — リクエストは通常通りルーティング
  2. 劣化 — 連続した障害後、トラフィックが削減される
  3. オープン — プロバイダーがルーティングから一時的に除外される
  4. リカバリー — 定期的なヘルスチェックによりプロバイダーが復元される
これは自動的に行われます — 設定は必要ありません。

結果の確認

すべてのレスポンスにルーティングメタデータが含まれます: