1 000 FAQ, 500 tutoriels et vidéos explicatives. Ici, il n'y a que des solutions !
Guide de démarrage: LLM API
LLM API est destiné aux développeurs qui souhaitent utiliser le LLM Infomaniak dans leurs applications.
Qu'est-ce que LLM API?
LLM (Large Language Model) est un type de modèle d'apprentissage automatique qui a été formé sur un ensemble de données massif de texte et de code. Les LLM sont capables de générer du texte, de traduire des langues, d'écrire différents types de contenu créatif, et de répondre à des questions de manière informative.
Pour rester fidèle à ses valeurs, Infomaniak propose notamment dans les outils kSuite une LLM basée sur Mixtral un modèle open source parmi les plus performants du marché.
Cette intelligence artificielle souveraine est capable p.ex de vous accompagner dans la rédaction, la reformulation ou la traduction de vos e-mails.
LLM API vous permet de connecter vos bibliothèques ou framework compatibles via API, sans interface.
La documentation de l'API se trouve sur https://developer.infomaniak.com/docs/api et contient des informations sur les méthodes disponibles, les paramètres, et des exemples.
Obtenir LLM API
Pour utiliser LLM API il est nécessaire de créer un token API.
Ensuite pour accéder à LLM API et p.ex consulter sa consommation journalière:
- se connecter au Manager Infomaniak (manager.infomaniak.com) depuis un navigateur Web comme Brave ou Firefox
- cliquer sur l'icône en haut à droite de l'interface (ou naviguer grâce au menu latéral gauche p.ex)
- choisir LLM API (univers Cloud Computing)
Un seul produit peut exister par organisation, mais les tokens API peuvent ĂŞtre multiples.
LLM API peut être utilisé par les utilisateurs suivants :
- responsable légal de l'organisation
- administrateurs de l'organisation
- collaborateurs de l'organisation avec droits techniques
Facturation
- API facturée au crédit
- chaque requête consomme un crédit ou token LLM *
- la facturation est accessible aux responsables légaux et aux administrateurs
- les collaborateurs avec des droits techniques ont accès à la documentation, mais pas aux factures
- une carte de crédit est requise pour commencer à utiliser l'API
- une facture impayée entraîne la suspension du service
- une limite de dépense peut être fixée par un utilisateur disposant des droits de facturation dans l'organisation et sur le produit afin de limiter les coûts non prévus
- les tarifs sont présentés sur la page de vente LLM
* Les tokens LLM (à ne pas confondre avec les tokens API) sont des unités de base utilisées par les modèles de langage pour traiter et générer du texte. Chaque token représente généralement un mot, une partie de mot ou une entité dans un corpus de texte et est utilisé pour l'apprentissage et la génération de langage naturel.
Responsabilités
Ce modèle de langage génère du texte en se basant sur les données qu'il a assimilées lors de son apprentissage, dépourvu de conscience, d'intentions ou de responsabilités morales. En cas d'utilisation inappropriée ou dangereuse de cet assistant, la responsabilité incombe à l'utilisateur qui prend ces actions. Il est crucial que l'utilisateur soit conscient que les informations générées par le modèle ne sont pas toujours précises et ne doivent pas être considérées comme une source d'information incontestable.
Les utilisateurs doivent exercer leur discernement critique et vérifier les informations fournies par l'assistant auprès de sources fiables lorsque nécessaire. Par exemple, si une personne utilise le modèle pour des tâches cruciales telles que des conseils médicaux, juridiques ou financiers, elle doit prendre des précautions supplémentaires pour confirmer les informations émanant du modèle.