1000 FAQ, 500 tutoriales y vídeos explicativos. ¡Aquí sólo hay soluciones!
Guía de inicio rápido: LLM API
LLM API está destinada a desarrolladores que desean utilizar el LLM (Modelo de Lenguaje Grande) de Infomaniak en sus aplicaciones.
¿Qué es LLM API?
LLM (Large Language Model) es un tipo de modelo de aprendizaje automático que ha sido entrenado en un conjunto masivo de datos de texto y código. Los LLM son capaces de generar texto, traducir idiomas, escribir varios tipos de contenido creativo y proporcionar respuestas informativas a preguntas.
Para mantenerse fiel a sus valores, Infomaniak ofrece un LLM basado en Mixtral, uno de los modelos de código abierto más potentes disponibles en el mercado, dentro de las herramientas kSuite.
Esta inteligencia artificial soberana puede, por ejemplo, ayudarte a redactar, parafrasear o traducir tus correos electrónicos.
LLM API te permite conectar tus bibliotecas o frameworks a través de API sin una interfaz.
La documentación de la API se encuentra en https://developer.infomaniak.com/docs/api y contiene información sobre los métodos disponibles, parámetros y ejemplos.
Obtención de LLM API
Para utilizar LLM API, es necesario crear un token de API.
Luego, para acceder a LLM API y, por ejemplo, verificar tu consumo diario:
- Inicia sesión en el Infomaniak Manager (manager.infomaniak.com) desde un navegador web como Brave o Firefox.
- Haz clic en el icono en la parte superior derecha de la interfaz (o navega a través del menú lateral izquierdo, por ejemplo).
- Elige LLM API (en el universo de Cloud Computing)
Solo puede existir un producto por organización, pero los tokens de API pueden ser múltiples.
LLM API puede ser utilizada por los siguientes usuarios:
- Representante legal de la organización
- Administradores de la organización
- Colaboradores de la organización con derechos técnicos
Facturación
- API facturada por crédito
- Cada solicitud consume un crédito o token LLM*
- El acceso a la facturación está disponible para representantes legales y administradores
- Los colaboradores con derechos técnicos tienen acceso a la documentación pero no a las facturas
- Se requiere una tarjeta de crédito para comenzar a usar la API
- Una factura impaga resultará en la suspensión del servicio
- Se puede establecer un límite de gasto por parte de un usuario con derechos de facturación en la organización y en el producto para limitar los costos imprevistos
- Las tarifas se presentan en la página de ventas de LLM
* Los tokens LLM (no deben confundirse con los tokens de API) son unidades básicas utilizadas por los modelos de lenguaje para procesar y generar texto. Cada token generalmente representa una palabra, parte de una palabra o una entidad en un corpus de texto y se utiliza para el aprendizaje del lenguaje y la generación de lenguaje natural.
Responsabilidades
Este modelo de lenguaje genera texto en función de los datos que ha asimilado durante su entrenamiento, sin conciencia, intenciones o responsabilidades morales. En caso de uso inapropiado o peligroso de este asistente, la responsabilidad recae en el usuario que realiza estas acciones. Es crucial que el usuario sea consciente de que la información generada por el modelo no siempre es precisa y no debe considerarse una fuente de información incuestionable.
Los usuarios deben ejercer su juicio crítico y verificar la información proporcionada por el asistente a partir de fuentes confiables cuando sea necesario. Por ejemplo, si una persona utiliza el modelo para tareas cruciales como asesoramiento médico, legal o financiero, debe tomar precauciones adicionales para confirmar la información procedente del modelo.