Skip to main content

Chọn Đúng Mô Hình

Không phải mọi tác vụ đều cần mô hình đắt nhất:

Sử Dụng Định Tuyến Thông Minh

Để OpenModex chọn mô hình tốt nhất thay vì cố định:

Luôn Cấu Hình Chuyển Đổi Dự Phòng

Đối với ứng dụng sản xuất, luôn thiết lập chuyển đổi dự phòng:

Sử Dụng Streaming Cho Giao Diện Chat

Streaming cải thiện đáng kể trải nghiệm người dùng:

Bật Bộ Nhớ Đệm Cho Truy Vấn Lặp Lại

Nếu bạn có các prompt có thể dự đoán hoặc lặp lại, hãy bật bộ nhớ đệm:

Đặt Thời Gian Chờ Phù Hợp

Giám Sát Mức Sử Dụng

  • Kiểm tra bảng điều khiển để xem phân tích sử dụng
  • Theo dõi chi phí theo mô hình, theo khóa API
  • Thiết lập cảnh báo cho các mẫu chi tiêu bất thường
  • Sử dụng trường openmodex.cost_usd trong phản hồi để theo dõi chi phí theo từng yêu cầu