Base de connaissances
1 000 FAQ, 500 tutoriels et vidéos explicatives. Ici, il n'y a que des solutions !
LLM API est destiné aux développeurs qui souhaitent utiliser le LLM Infomaniak dans leurs applications.
Qu'est-ce que LLM API?
LLM (Large Language Model) est un type de modèle d'apprentissage automatique qui a été formé sur un ensemble de données massif de texte et de code. Les LLM sont capables de générer du texte, de traduire des langues, d'écrire différents types de contenu créatif, et de répondre à des questions de manière informative.
Pour rester fidèle à ses valeurs, Infomaniak propose notamment dans les outils kSuite une LLM basée sur Mixtral un modèle open source parmi les plus performants du marché.
Cette intelligence artificielle souveraine est capable p.ex de vous accompagner dans la rédaction, la reformulation ou la traduction de vos e-mails.
LLM API vous permet de connecter vos bibliothèques ou framework compatibles via API, sans interface.
La documentation de l'API se trouve sur https://developer.infomaniak.com/docs/api et contient des informations sur les méthodes disponibles, les paramètres, et des exemples.
Obtenir LLM API
Pour utiliser LLM API il est nécessaire de créer un token API.
Ensuite pour accéder à LLM API et p.ex consulter sa consommation journalière:
- se connecter au Manager Infomaniak (manager.infomaniak.com) depuis un navigateur Web comme Brave ou Firefox
- cliquer sur l'icône en haut à droite de l'interface (ou naviguer grâce au menu latéral gauche p.ex)
- choisir LLM API (univers Cloud Computing)
Un seul produit peut exister par organisation, mais les tokens API peuvent ĂŞtre multiples.
LLM API peut être utilisé par les utilisateurs suivants :
- responsable légal de l'organisation
- administrateurs de l'organisation
- collaborateurs de l'organisation avec droits techniques
Facturation
- API facturée au crédit
- chaque requête consomme un crédit ou token LLM *
- la facturation est accessible aux responsables légaux et aux administrateurs
- les collaborateurs avec des droits techniques ont accès à la documentation, mais pas aux factures
- une carte de crédit est requise pour commencer à utiliser l'API
- une facture impayée entraîne la suspension du service
- une limite de dépense peut être fixée par un utilisateur disposant des droits de facturation dans l'organisation et sur le produit afin de limiter les coûts non prévus
- les tarifs sont présentés sur la page de vente LLM
* Les tokens LLM (à ne pas confondre avec les tokens API) sont des unités de base utilisées par les modèles de langage pour traiter et générer du texte. Chaque token représente généralement un mot, une partie de mot ou une entité dans un corpus de texte et est utilisé pour l'apprentissage et la génération de langage naturel.
Responsabilités
Ce modèle de langage génère du texte en se basant sur les données qu'il a assimilées lors de son apprentissage, dépourvu de conscience, d'intentions ou de responsabilités morales. En cas d'utilisation inappropriée ou dangereuse de cet assistant, la responsabilité incombe à l'utilisateur qui prend ces actions. Il est crucial que l'utilisateur soit conscient que les informations générées par le modèle ne sont pas toujours précises et ne doivent pas être considérées comme une source d'information incontestable.
Les utilisateurs doivent exercer leur discernement critique et vérifier les informations fournies par l'assistant auprès de sources fiables lorsque nécessaire. Par exemple, si une personne utilise le modèle pour des tâches cruciales telles que des conseils médicaux, juridiques ou financiers, elle doit prendre des précautions supplémentaires pour confirmer les informations émanant du modèle.
Ce guide concerne les jetons d'authentification ou tokens Infomaniak, qui servent à vérifier l'identité de l'application et à lui accorder des autorisations spécifiques pour interagir avec les fonctionnalités et les données de l'API Infomaniak de manière sécurisée.
Générer un token API Infomaniak
Les jetons d'authentification ou tokens servent à vérifier l'identité de l'application et à lui accorder des autorisations spécifiques pour interagir avec les fonctionnalités et les données de l'API de manière sécurisée.
Pour accéder à l'API Infomaniak, il est nécessaire de générer un token d'accès. La durée de celui-ci est "illimitée" par défaut mais il est possible de définir une durée personnalisée à sa création.
Attention, si aucun appel n'est fait avec le token pendant une année, il est automatiquement désactivé. Il sera alors nécessaire d'en générer un nouveau. Il n'y a pas de limite quant au nombre de token que vous pouvez créer.
Au moment de la création de celui-ci il vous sera possible de choisir l'application et le scope accessible par le token (afin de correspondre à votre besoin et projet actuel).
Ajouter / retrouver un token
Les clés API sont gérées sur cette page du Manager:
Pour cela:
- cliquer le bouton bleu Créer un token
- choisir dans le menu déroulant le produit adéquat selon votre besoin et projet actuel
- choisir une durée de validité
- cliquer sur le bouton bleu Créer un token
- entrer le mot de passe de connexion au Manager comme demandé
- copier le token en lieu sûr - il ne sera plus accessible après cela
Exemple d'application: token pour l'API Newsletter