Kann ich meinen eigenen OpenAI/Anthropic API Key oder ein feinabgestimmtes Modell verwenden?
“Fortgeschrittene Nutzer möchten ihre selbst trainierten Modelle einsetzen, um in spezifischen Fachgebieten optimale Ergebnisse zu erzielen, oder möchten ihr eigenes API-Kontingent direkt nutzen.”
Ursachenanalyse
BYOK-Unterstützung für Enterprise-Version
In der privat gehosteten Enterprise-Version ist die Konfiguration eines eigenen LLM API Keys durch das Unternehmen (z. B. Azure OpenAI Endpoint) möglich. Dies ermöglicht die Nutzung bestehender Rabattkonditionen oder dedizierter Kanäle.
Feinabgestimmtes Modell einbinden
Wenn Sie bei OpenAI über eine feinabgestimmte (Fine-tuned) Modell-ID verfügen, können Sie diese über unser Enterprise-Control-Panel einbinden. Die Dokumenten-Parsing-Engine verarbeitet das Format, während die Übersetzungsinhalte von Ihrem dedizierten Modell generiert werden.
Hybrid-Cloud-Architektur
Es wird eine Routing-Strategie unterstützt, bei der sensible Daten über private Modelle und allgemeine Daten über öffentliche Modelle verarbeitet werden, um Kosten und Sicherheit flexibel auszubalancieren.
Zusammenfassung der finalen Lösung
Es wird eine äußerst hohe Architekturflexibilität geboten, die den Anforderungen unterschiedlichster Technologiestacks gerecht wird – von Start-ups bis hin zu multinationalen Konzernen.