Skip to main content

Choisir le bon modèle

Toutes les tâches ne nécessitent pas le modèle le plus coûteux :

Utiliser le routage intelligent

Laissez OpenModex choisir le meilleur modèle au lieu de le coder en dur :

Toujours configurer les basculements

Pour les applications en production, configurez toujours des basculements :

Utiliser le streaming pour les interfaces de chat

Le streaming améliore considérablement l’expérience utilisateur :

Activer la mise en cache pour les requêtes répétées

Si vous avez des prompts prévisibles ou répétés, activez la mise en cache :

Définir des timeouts appropriés

Surveiller votre utilisation

  • Consultez le tableau de bord pour les analyses d’utilisation
  • Suivez les coûts par modèle, par clé API
  • Configurez des alertes pour les schémas de dépenses inhabituels
  • Utilisez le champ openmodex.cost_usd dans les réponses pour suivre les coûts par requête