Base de connaissances

Ce guide concerne Ai Tools Infomaniak qui est destiné aux développeurs qui souhaitent utiliser le LLM Infomaniak dans leurs applications.

Préambule

• Ai Tools est un LLM (Large Language Model), un type de modèle d'apprentissage automatique qui a été formé sur un ensemble de données massif de texte et de code.
• Les LLM sont capables de générer du texte, de traduire des langues, d'écrire différents types de contenu créatif, et de répondre à des questions de manière informative.
• Pour rester fidèle à ses valeurs, Infomaniak propose notamment dans les outils kSuite une LLM basée sur un modèle open source parmi les plus performants du marché.
• Cette intelligence artificielle souveraine est capable p.ex de vous accompagner dans la rédaction, la reformulation ou la traduction de vos e-mails.
• Ai Tools vous permet de connecter vos bibliothèques ou framework compatibles via API, sans interface.
• Ai Tools comprends également des modèles SDXL / flux (text to image) & Photomaker (image to image).
• La documentation de l'API se trouve sur https://developer.infomaniak.com/docs/api et contient des informations sur les méthodes disponibles, les paramètres, et des exemples.

Obtenir Ai Tools

Pour utiliser Ai Tools il est nécessaire de créer un token API.

Ensuite pour accéder à Ai Tools et p.ex consulter sa consommation journalière:

1. Cliquez ici afin d'accéder à la gestion de votre produit sur le Manager Infomaniak (besoin d'aide ?).
   
    

Un seul produit peut exister par organisation, mais les tokens API peuvent être multiples.

Ai Tools peut être utilisé par les utilisateurs suivants :

• responsable légal de l'organisation
• administrateurs de l'organisation
• collaborateurs de l'organisation avec droits techniques

Facturation

• L'API est facturée au crédit.
• Chaque requête consomme un crédit ou token LLM *.
• La facturation est accessible aux responsables légaux et aux administrateurs.
• Les collaborateurs avec des droits techniques ont accès à la documentation, mais pas aux factures.
• Une carte de crédit est requise pour commencer à utiliser l'API.
• Une facture impayée entraîne la suspension du service.
• Une limite de dépense peut être fixée par un utilisateur disposant des droits de facturation dans l'organisation et sur le produit afin de limiter les coûts non prévus.
• Les tarifs sont présentés sur la page de vente.

* Les tokens LLM (à ne pas confondre avec les tokens API) sont des unités de base utilisées par les modèles de langage pour traiter et générer du texte. Chaque token représente généralement un mot, une partie de mot ou une entité dans un corpus de texte et est utilisé pour l'apprentissage et la génération de langage naturel.

Ce guide concerne les produits Infomaniak qui intègrent l'utilisation de l'intelligence artificielle, notamment kChat, kDrive, Mail, Site Creator…

Responsabilités des parties

Données fournies à l'IA

• L'IA d’Infomaniak est actuellement basée par défaut sur mixtral8x22b.
  • GPT4 turbo est une option volontaire laissée au choix de l'utilisateur kChat / Mail.
  • Les messages audios sont transcrits avec Whisper.
  • Llama 3 est disponible pour l'API AI Tools.
• En utilisant un assistant de rédaction, les messages et les demandes adressées à l’IA sont exclusivement traités en Suisse par l’infrastructure d’Infomaniak.
• Aucune donnée n’est traitée ou partagée avec un tiers.

Données apportées par l'IA

• Le modèle de langage génère du texte en se basant sur les données qu'il a assimilées lors de son apprentissage, dépourvu de conscience, d'intentions ou de responsabilités morales.
• Il est crucial que l'utilisateur soit conscient que les informations générées par le modèle ne sont pas toujours précises et ne doivent pas être considérées comme une source d'information incontestable.
• Il doit exercer son discernement critique et vérifier les informations fournies par l'assistant auprès de sources fiables lorsque nécessaire.
  • P.ex si une personne utilise le modèle pour des tâches cruciales telles que des conseils médicaux, juridiques ou financiers, elle doit prendre des précautions supplémentaires pour confirmer les informations émanant du modèle.
• En cas d'utilisation inappropriée ou dangereuse de cet assistant, la responsabilité incombe à l'utilisateur qui prend ces actions.

Ce guide concerne les jetons d'authentification ou tokens Infomaniak, qui servent à vérifier l'identité de l'application et à lui accorder des autorisations spécifiques pour interagir avec les fonctionnalités et les données de l'API Infomaniak de manière sécurisée.

Préambule

• Les jetons d'authentification ou tokens servent à vérifier l'identité de l'application et à lui accorder des autorisations spécifiques pour interagir avec les fonctionnalités et les données de l'API Infomaniak de manière sécurisée.
• Il n'y a pas de limite quant au nombre de token que vous pouvez créer.
• La durée dun token d'accès est "illimitée" par défaut mais il est possible de définir une durée personnalisée à sa création.
• Attention, si aucun appel n'est fait avec le token pendant une année, il est automatiquement désactivé ; il sera alors nécessaire d'en générer un nouveau.

Gérer les token API Infomaniak

Au moment de la création d'un token API, il vous sera possible de choisir l'application et le scope accessible par le token (afin de correspondre à votre besoin et projet actuel).

Pour cela:

1. Cliquez ici afin d'accéder à la gestion de votre produit sur le Manager Infomaniak (besoin d'aide ?).
2. Cliquez le bouton bleu Créer un token.
3. Choisissez dans le menu déroulant le produit adéquat selon votre besoin et projet actuel.
4. Choisissez une durée de validité.
5. Cliquez sur le bouton bleu Créer un token.
6. Entrez le mot de passe de connexion au Manager comme demandé.
7. Copiez le token en lieu sûr - il ne sera plus accessible après cela.

Exemple d'application: token pour l'API Newsletter

Ce guide explique comment personnaliser le type de langage utilisé au sein des discussions et échanges avec l'agent conversationnel de Ai Tools Infomaniak.

Préambule

• Par défaut, les réponses et les éléments apportés au sein d'une conversation avec un bot dans AI Tools sera de type “usuel”, l'assistant est nommé “Infomaniak Assistant” et sa description est claire:
  
• Il est tout à fait possible d'inventer et de personnaliser à l'extrême une façon qui devra suivie à la lettre par le bot lors des échanges.
• Une fois la méthode sauvegardée, vous pourrez la réemployer et basculer de l'une à l'autre au gré de vos besoins.

Personnaliser le modèle de langage AI Tools

Pour créer un nouveau “system prompt” et l'utiliser:

1. Cliquez ici afin d'accéder à la gestion de votre produit sur le Manager Infomaniak (besoin d'aide ?):
   
2. Cliquez sur un modèle de langage pour démarrer la configuration d'une conversation:
   
3. Cliquez sur Modifier l'assistant conversationnel actuel.
4. Cliquez sur ‍ Nouveau en-dessous du choix de l'assistant conversationnel:
   
5. Donnez un titre à la conversation orientée que vous configurez.
6. Rédigez le prompt nécessaire à la configuration de votre bot, en détaillant si celui-ci devra se comporter comme.. un terminal… un traducteur spécialisé… etc. (exemples de prompt)
7. Sauvegardez les modifications:
   

Vous pouvez désormais démarrer une conversation et obtenir différentes réponses ou éléments en fonction du comportement inhérent au system prompt choisi:

Il est en outre possible de choisir un modèle pour chaque conversation (prenez connaissance de cet autre guide si vous recherchez des informations sur les modèles et responsabilités).

Tous ces nouveaux paramètres sont disponibles dans un panneau latéral accessible sur la droite de l'écran depuis toutes les conversations.