Skip to main content

Tổng Quan

Công cụ định tuyến thông minh của OpenModex tự động chọn nhà cung cấp tối ưu cho mỗi yêu cầu. Thay vì cố định một nhà cung cấp duy nhất, bạn có thể để OpenModex lựa chọn dựa trên ưu tiên của bạn.

Chiến Lược Định Tuyến

Tối Ưu Chi Phí

Định tuyến đến nhà cung cấp rẻ nhất có thể đáp ứng yêu cầu:

Tối Ưu Độ Trễ

Định tuyến đến nhà cung cấp nhanh nhất có sẵn:

Tối Ưu Chất Lượng

Định tuyến đến nhà cung cấp có điểm chất lượng cao nhất:

Chuyển Đổi Dự Phòng Phía Máy Chủ

Xác định chuỗi dự phòng tự động thực thi nếu mô hình chính gặp lỗi:
Nếu gpt-4o không khả dụng (lỗi 5xx hoặc giới hạn tốc độ), OpenModex tự động thử claude-3.5-sonnet, sau đó gemini-2.0-flash.

Cho Phép Nâng Cấp

Cho phép OpenModex định tuyến đến một mô hình mạnh hơn khi có sẵn ở cùng mức giá:

Bộ Ngắt Mạch

OpenModex giám sát sức khỏe nhà cung cấp theo thời gian thực. Khi một nhà cung cấp bắt đầu gặp lỗi:
  1. Khỏe mạnh — yêu cầu được định tuyến bình thường
  2. Suy giảm — sau các lỗi liên tiếp, lưu lượng bị giảm
  3. Mở — nhà cung cấp tạm thời bị loại khỏi định tuyến
  4. Phục hồi — các kiểm tra sức khỏe định kỳ khôi phục nhà cung cấp
Điều này xảy ra tự động — bạn không cần cấu hình gì.

Kiểm Tra Kết Quả

Mỗi phản hồi đều bao gồm siêu dữ liệu định tuyến: