개요
OpenModex의 지능형 라우팅 엔진은 각 요청에 대해 최적의 제공업체를 자동으로 선택합니다. 단일 제공업체를 하드코딩하는 대신 우선순위에 따라 OpenModex가 선택하도록 할 수 있습니다.라우팅 전략
비용 최적화
요청을 처리할 수 있는 가장 저렴한 제공업체로 라우팅합니다:지연 시간 최적화
가장 빠른 사용 가능한 제공업체로 라우팅합니다:품질 최적화
가장 높은 품질 점수를 가진 제공업체로 라우팅합니다:서버 측 폴백
기본 모델이 실패할 경우 자동으로 실행되는 폴백 체인을 정의하세요:gpt-4o가 사용 불가능한 경우 (5xx 또는 요청 제한), OpenModex가 자동으로 claude-3.5-sonnet을 시도한 다음 gemini-2.0-flash를 시도합니다.
업그레이드 허용
동일한 가격 티어에서 더 우수한 모델이 사용 가능한 경우 OpenModex가 해당 모델로 라우팅하도록 허용합니다:서킷 브레이커
OpenModex는 실시간으로 제공업체 상태를 모니터링합니다. 제공업체에 장애가 발생하면:- Healthy — 요청이 정상적으로 라우팅됨
- Degraded — 연속 실패 후 트래픽이 감소됨
- Open — 제공업체가 라우팅에서 일시적으로 제거됨
- Recovery — 주기적 상태 확인으로 제공업체가 복원됨