Czy mogę używać własnego klucza API OpenAI/Anthropic lub dostosowanego, wytrenowanego modelu?
“Zaawansowani użytkownicy chcą korzystać z własnych wytrenowanych modeli, aby osiągnąć najlepsze rezultaty w określonej dziedzinie lub chcą bezpośrednio wykorzystywać własny limit API.”
Analiza przyczyn podstawowych
Wsparcie BYOK w wersji korporacyjnej
W przypadku wdrożeń korporacyjnych w środowisku prywatnym, możliwa jest konfiguracja własnego klucza LLM API (np. punkt końcowy Azure OpenAI). Pozwala to przedsiębiorstwom wykorzystać przysługujące rabaty lub dedykowane kanały.
Montowanie modelu po fine-tuningu
Jeśli posiadasz w OpenAI model po fine-tuningu (Fine-tuned) z określonym identyfikatorem, możesz zamontować go za pośrednictwem naszego firmowego panelu sterowania. Silnik parsujący dokumenty zajmuje się obsługą formatów, natomiast treść tłumaczenia generowana jest przez Twój dedykowany model.
Architektura chmury hybrydowej
Obsługiwana jest strategia routingu: „dane wrażliwe trafiają do modeli prywatnych, dane zwyczajne do modeli publicznych”, umożliwiająca elastyczne równoważenie kosztów i bezpieczeństwa.
Podsumowanie rozwiązania końcowego
Zapewnia bardzo wysoką elastyczność architektury, odpowiadając na potrzeby różnych stacków technologicznych – od startupów po międzynarodowe korporacje.