개요
BYOK를 사용하면 자체 제공업체 API 키(OpenAI, Anthropic 등)를 사용하면서 OpenModex의 라우팅, 모니터링, 폴백 및 통합 결제의 이점을 누릴 수 있습니다. 다음과 같은 경우에 이상적입니다:- 제공업체와 볼륨 할인 또는 엔터프라이즈 계약이 있는 경우
- 컴플라이언스를 위해 특정 제공업체 계정을 사용해야 하는 경우
- 특정 모델에 대해 제공업체와 직접 결제를 원하는 경우
설정
1
Provider Keys로 이동
대시보드 → Settings → Provider Keys를 여세요.
2
제공업체 키 추가
Add Key를 클릭하고, 제공업체를 선택한 후 API 키를 붙여넣으세요.
3
확인
OpenModex가 테스트 요청으로 키를 검증합니다. 확인이 완료되면 해당 제공업체에 대한 요청은 자체 키를 사용합니다.
보안
모든 제공업체 키는 AWS KMS 봉투 암호화 (AES-256)를 사용하여 저장 시 암호화됩니다. OpenModex는 제공업체 키를 절대 기록하거나 노출하지 않습니다.
- 키는 제출 즉시 암호화됩니다
- 식별을 위해 키 접두사만 저장됩니다 (예:
sk-...abc) - 복호화는 요청 시에만 메모리에서 수행됩니다
- 키는 로그, 분석 또는 API 응답에 절대 포함되지 않습니다
BYOK와 라우팅 작동 방식
제공업체에 대한 BYOK 키가 설정된 경우:- 해당 제공업체를 대상으로 하는 요청은 OpenModex의 공유 풀 대신 자체 키를 사용합니다
- 제공업체에 의해 직접 청구됩니다 — OpenModex는 모델 토큰 비용을 청구하지 않습니다
- 플랫폼 기능에 대한 OpenModex 구독 요금은 여전히 지불합니다
- 라우팅, 캐싱, 폴백 및 모니터링은 정상적으로 작동합니다
혼합 설정
일부 제공업체에는 BYOK를, 나머지에는 OpenModex 관리 키를 사용할 수 있습니다:- GPT-4o 요청은 자체 OpenAI 키를 사용합니다 (OpenAI에서 청구)
- Claude 요청은 OpenModex의 키를 사용합니다 (OpenModex에서 청구)
- BYOK와 관리 제공업체 간 폴백이 원활하게 작동합니다