¿Puedo utilizar mi propia clave API de OpenAI/Anthropic o un modelo ajustado mediante fine-tuning?
“Los usuarios avanzados desean utilizar modelos entrenados por ellos mismos para lograr el mejor rendimiento en dominios específicos, o bien consumir directamente sus propios créditos de API.”
Análisis de la causa raíz
Soporte BYOK para empresas
En la versión de despliegue privado para empresas, se admite la configuración de la clave API propia de LLM de la organización (por ejemplo, un endpoint de Azure OpenAI). Esto permite a las empresas aprovechar las tarifas con descuento ya existentes o los canales dedicados.
Montaje de modelos ajustados (fine-tuned)
Si dispone de un ID de modelo ajustado (fine-tuned) en OpenAI, puede montarlo a través de nuestra consola empresarial. El motor de análisis documental gestionará el formato, mientras que el contenido traducido será generado por su modelo exclusivo.
Arquitectura híbrida en la nube
Se admite una política de enrutamiento que permite que los datos sensibles se procesen mediante modelos privados y los datos generales mediante modelos públicos, equilibrando de forma flexible el coste y la seguridad.
Resumen de la solución definitiva
Ofrece una flexibilidad arquitectónica excepcional, adaptándose a las necesidades de los distintos stacks tecnológicos, desde equipos emergentes hasta corporaciones multinacionales.