자신의 OpenAI/Anthropic API Key 또는 미세 조정된 모델을 사용할 수 있습니까?
핵심 현황 진단
“고급 사용자는 특정 도메인에서 최적의 결과를 얻기 위해 직접 훈련한 모델을 사용하거나, 자신의 API 할당량을 직접 소비하기를 원합니다.”
근본 원인 분석
1
엔터프라이즈용 BYOK 지원
엔터프라이즈 온프레미스 배포 버전에서는 기업이 자체 LLM API Key(예: Azure OpenAI 엔드포인트)를 구성할 수 있습니다. 이를 통해 기업은 기존 할인 요율 또는 전용 채널을 활용할 수 있습니다.
2
파인튜닝 모델 마운트
OpenAI에서 Fine-tuned 모델 ID를 보유한 경우, 엔터프라이즈 콘솔을 통해 마운트하실 수 있습니다. 문서 파싱 엔진이 형식을 처리하며, 번역 결과는 귀하의 전용 모델이 생성합니다.
3
하이브리드 클라우드 아키텍처
민감 데이터는 프라이빗 모델, 일반 데이터는 퍼블릭 모델로 라우팅하는 정책을 지원하여 비용과 보안을 유연하게 균형 잡을 수 있습니다.
최종 솔루션 요약
매우 높은 아키텍처 유연성을 제공하여, 스타트업부터 글로벌 대기업까지 다양한 기술 스택 요구사항에 대응합니다.