Base de conocimientos
1000 FAQ, 500 tutoriales y vídeos explicativos. ¡Aquí sólo hay soluciones!
LLM API está destinada a desarrolladores que desean utilizar el LLM (Modelo de Lenguaje Grande) de Infomaniak en sus aplicaciones.
¿Qué es LLM API?
LLM (Large Language Model) es un tipo de modelo de aprendizaje automático que ha sido entrenado en un conjunto masivo de datos de texto y código. Los LLM son capaces de generar texto, traducir idiomas, escribir varios tipos de contenido creativo y proporcionar respuestas informativas a preguntas.
Para mantenerse fiel a sus valores, Infomaniak ofrece un LLM basado en Mixtral, uno de los modelos de código abierto más potentes disponibles en el mercado, dentro de las herramientas kSuite.
Esta inteligencia artificial soberana puede, por ejemplo, ayudarte a redactar, parafrasear o traducir tus correos electrónicos.
LLM API te permite conectar tus bibliotecas o frameworks a través de API sin una interfaz.
La documentación de la API se encuentra en https://developer.infomaniak.com/docs/api y contiene información sobre los métodos disponibles, parámetros y ejemplos.
Obtención de LLM API
Para utilizar LLM API, es necesario crear un token de API.
Luego, para acceder a LLM API y, por ejemplo, verificar tu consumo diario:
- Inicia sesión en el Infomaniak Manager (manager.infomaniak.com) desde un navegador web como Brave o Firefox.
- Haz clic en el icono en la parte superior derecha de la interfaz (o navega a través del menú lateral izquierdo, por ejemplo).
- Elige LLM API (en el universo de Cloud Computing)
Solo puede existir un producto por organización, pero los tokens de API pueden ser múltiples.
LLM API puede ser utilizada por los siguientes usuarios:
- Representante legal de la organización
- Administradores de la organización
- Colaboradores de la organización con derechos técnicos
Facturación
- API facturada por crédito
- Cada solicitud consume un crédito o token LLM*
- El acceso a la facturación está disponible para representantes legales y administradores
- Los colaboradores con derechos técnicos tienen acceso a la documentación pero no a las facturas
- Se requiere una tarjeta de crédito para comenzar a usar la API
- Una factura impaga resultará en la suspensión del servicio
- Se puede establecer un límite de gasto por parte de un usuario con derechos de facturación en la organización y en el producto para limitar los costos imprevistos
- Las tarifas se presentan en la página de ventas de LLM
* Los tokens LLM (no deben confundirse con los tokens de API) son unidades básicas utilizadas por los modelos de lenguaje para procesar y generar texto. Cada token generalmente representa una palabra, parte de una palabra o una entidad en un corpus de texto y se utiliza para el aprendizaje del lenguaje y la generación de lenguaje natural.
Responsabilidades
Este modelo de lenguaje genera texto en función de los datos que ha asimilado durante su entrenamiento, sin conciencia, intenciones o responsabilidades morales. En caso de uso inapropiado o peligroso de este asistente, la responsabilidad recae en el usuario que realiza estas acciones. Es crucial que el usuario sea consciente de que la información generada por el modelo no siempre es precisa y no debe considerarse una fuente de información incuestionable.
Los usuarios deben ejercer su juicio crítico y verificar la información proporcionada por el asistente a partir de fuentes confiables cuando sea necesario. Por ejemplo, si una persona utiliza el modelo para tareas cruciales como asesoramiento médico, legal o financiero, debe tomar precauciones adicionales para confirmar la información procedente del modelo.
Esta guía trata sobre tokens de autenticación o tokens de Infomaniak, que se utilizan para verificar la identidad de la aplicación y otorgarle permisos específicos para interactuar de manera segura con las funcionalidades y datos de la API de Infomaniak.
Generar un token de API de Infomaniak
Los tokens de autenticación o tokens se utilizan para verificar la identidad de la aplicación y otorgarle permisos específicos para interactuar de manera segura con las funcionalidades y datos de la API.
Para acceder a la API de Infomaniak, es necesario generar un token de acceso. Su duración predeterminada es "ilimitada", pero es posible definir una duración personalizada en su creación.
Atención, si no se realizan llamadas con el token durante un año, se desactiva automáticamente. Será necesario generar uno nuevo. No hay límite en la cantidad de tokens que puedes crear.
En el momento de su creación, podrás elegir la aplicación y el ámbito accesible por el token (para que corresponda a tu necesidad y proyecto actual).
Agregar / recuperar un token
Las claves API se gestionan en esta página del Manager:
Para hacer esto:
- Haz clic en el botón azul Crear un token
- Elige el producto apropiado en el menú desplegable según tu necesidad y proyecto actual
- Elige un período de validez
- Haz clic en el botón azul Crear un token
- Ingresa la contraseña de inicio de sesión del Manager según se solicite
- Copia el token de forma segura, ya que no estará disponible después de eso
Ejemplo de aplicación: token para la API de boletines