Basculements automatiques

​

Vue d’ensemble

​

Basculements côté serveur

const response = await client.chat.completions.create({
  model: 'gpt-4o',
  messages: [{ role: 'user', content: 'Hello!' }],
  routing: {
    fallback: ['claude-3.5-sonnet', 'gemini-2.0-flash'],
  },
});

1. Essayer gpt-4o
2. En cas d’échec (5xx, limite de débit, timeout) → essayer claude-3.5-sonnet
3. En cas d’échec → essayer gemini-2.0-flash
4. Si tout échoue → renvoyer une erreur

​

Basculements côté client

import OpenModex from '@openmodex/sdk';

const client = new OpenModex({
  apiKey: 'omx_sk_...',
  fallbackModels: ['claude-3.5-sonnet', 'gemini-2.0-flash'],
});

// If the requested model fails, the SDK automatically retries
// with each fallback model
const response = await client.chat.completions.create({
  model: 'gpt-4o',
  messages: [{ role: 'user', content: 'Hello!' }],
});

client := openmodex.NewClient("omx_sk_...",
    openmodex.WithFallbackModels("claude-3.5-sonnet", "gemini-2.0-flash"),
)

​

Quand les basculements se déclenchent

• Erreurs 5xx — erreurs serveur du fournisseur
• Erreurs 429 — limite de débit dépassée
• Timeouts — la requête ne s’est pas terminée à temps
• Erreurs réseau — échecs de connexion

• Erreurs 4xx (sauf 429) — celles-ci indiquent un problème avec votre requête
• Réponses réussies — même si le contenu est inattendu

​

Vérifier si un basculement a été utilisé

const response = await client.chat.completions.create({...});

console.log(response.openmodex?.model_used);     // actual model that responded
console.log(response.openmodex?.fallback_used);   // true if fallback was used