Skip to main content

選擇正確的模型

不是每個任務都需要最昂貴的模型:

使用智慧路由

讓 OpenModex 選擇最佳模型,而不是寫死:

始終設定容錯備援

對於正式環境的應用程式,始終設定容錯備援:

聊天 UI 使用串流

串流大幅改善使用者體驗:

為重複查詢啟用快取

如果您有可預測或重複的提示,請啟用快取:

設定適當的逾時

監控您的使用量

  • 在控制台查看使用量分析
  • 按模型、按 API 金鑰追蹤成本
  • 設定異常支出模式的提醒
  • 使用回應中的 openmodex.cost_usd 欄位追蹤每次請求的成本