Wissensdatenbank
1000 FAQ, 500 Anleitungen und Lernvideos. Hier gibt es nur Lösungen!
LLM API richtet sich an Entwickler, die das LLM (Large Language Model) von Infomaniak in ihren Anwendungen verwenden möchten.
Was ist LLM API?
LLM (Large Language Model) ist ein Typ von maschinellem Lernmodell, das auf einem massiven Datensatz von Text und Code trainiert wurde. LLMs sind in der Lage, Text zu generieren, Sprachen zu übersetzen, verschiedene Arten von kreativem Inhalt zu schreiben und informative Antworten auf Fragen zu geben.
Um seinen Werten treu zu bleiben, bietet Infomaniak innerhalb der kSuite-Tools ein auf Mixtral basierendes LLM an, das zu den leistungsstärksten Open-Source-Modellen auf dem Markt gehört.
Diese souveräne künstliche Intelligenz kann Sie zum Beispiel bei der Verfassung, Umschreibung oder Übersetzung Ihrer E-Mails unterstützen.
LLM API ermöglicht es Ihnen, Ihre Bibliotheken oder Frameworks über API ohne Benutzeroberfläche anzuschließen.
Die API-Dokumentation finden Sie unter https://developer.infomaniak.com/docs/api und enthält Informationen zu verfügbaren Methoden, Parametern und Beispielen.
Erhalten von LLM API
Um LLM API zu verwenden, ist es notwendig, einen API-Token zu erstellen.
Dann, um auf LLM API zuzugreifen und zum Beispiel Ihren täglichen Verbrauch zu überprüfen:
- Melden Sie sich im Infomaniak-Manager (manager.infomaniak.com) von einem Webbrowser wie Brave oder Firefox an.
- Klicken Sie auf das -Symbol oben rechts in der Benutzeroberfläche (oder navigieren Sie durch das linke Seitenleistenmenü, zum Beispiel).
- Wählen Sie LLM API (im Bereich Cloud Computing) aus.
Pro Organisation kann nur ein Produkt existieren, aber API-Token können mehrfach sein.
LLM API kann von folgenden Benutzern verwendet werden:
- Rechtsvertreter der Organisation
- Administratoren der Organisation
- Mitarbeiter der Organisation mit technischen Rechten
Abrechnung
- API wird per Kredit abgerechnet
- Jede Anfrage verbraucht einen LLM-Kredit oder Token*
- Abrechnungszugriff ist für Rechtsvertreter und Administratoren verfügbar
- Mitarbeiter mit technischen Rechten haben Zugriff auf die Dokumentation, jedoch nicht auf Rechnungen
- Um die API nutzen zu können, ist eine Kreditkarte erforderlich
- Eine unbezahlte Rechnung führt zur Sperrung des Dienstes
- Ein Ausgabenlimit kann von einem Benutzer mit Abrechnungsrechten in der Organisation und im Produkt festgelegt werden, um unvorhergesehene Kosten zu begrenzen
- Die Preise werden auf der LLM-Verkaufsseite angezeigt
* LLM-Token (nicht zu verwechseln mit API-Token) sind grundlegende Einheiten, die von Sprachmodellen zum Verarbeiten und Generieren von Text verwendet werden. Jeder Token repräsentiert in der Regel ein Wort, einen Teil eines Wortes oder eine Entität in einem Textkorpus und wird für das Erlernen und Generieren natürlicher Sprache verwendet.
Verantwortlichkeiten
Dieses Sprachmodell generiert Text basierend auf den während des Trainings assimilierten Daten, ohne Bewusstsein, Absichten oder moralische Verantwortung. Im Falle einer unangemessenen oder gefährlichen Verwendung dieses Assistenten liegt die Verantwortung beim Benutzer, der diese Aktionen durchführt. Es ist entscheidend, dass der Benutzer sich darüber im Klaren ist, dass die vom Modell generierten Informationen nicht immer genau sind und nicht als unumstößliche Informationsquelle angesehen werden sollten.
Benutzer müssen kritisches Urteilsvermögen ausüben und die vom Assistenten bereitgestellten Informationen bei Bedarf von zuverlässigen Quellen überprüfen. Wenn eine Person beispielsweise das Modell für wichtige Aufgaben wie medizinische, rechtliche oder finanzielle Ratschläge verwendet, muss sie zusätzliche Vorsichtsmaßnahmen treffen, um die Informationen aus dem Modell zu bestätigen.
Dieser Leitfaden behandelt Authentifizierungstoken oder Token von Infomaniak, die dazu dienen, die Identität der Anwendung zu überprüfen und ihr spezifische Berechtigungen zu erteilen, um sicher mit den Funktionen und Daten der Infomaniak-API zu interagieren.
Generieren Sie ein Infomaniak-API-Token
Authentifizierungstoken oder Token dienen dazu, die Identität der Anwendung zu überprüfen und ihr spezifische Berechtigungen zu erteilen, um sicher mit den API-Funktionen und -Daten zu interagieren.
Um auf die Infomaniak-API zuzugreifen, ist es erforderlich, ein Zugriffstoken zu generieren. Die Standarddauer beträgt "unbegrenzt", aber es ist möglich, eine benutzerdefinierte Dauer bei der Erstellung festzulegen.
Achtung, wenn ein Jahr lang keine Aufrufe mit dem Token getätigt werden, wird es automatisch deaktiviert. Es wird dann erforderlich sein, ein neues zu generieren. Es gibt keine Begrenzung für die Anzahl der Tokens, die Sie erstellen können.
Bei der Erstellung haben Sie die Möglichkeit, die Anwendung und den vom Token zugänglichen Bereich auszuwählen (um Ihrem aktuellen Bedarf und Projekt zu entsprechen).
Hinzufügen / Abrufen eines Tokens
API-Schlüssel werden auf dieser Seite des Managers verwaltet:
So geht's:
- Klicken Sie auf die blaue Schaltfläche Einen Token erstellen
- Wählen Sie aus dem Dropdown-Menü das entsprechende Produkt gemäß Ihrem aktuellen Bedarf und Projekt aus
- Wählen Sie eine Gültigkeitsdauer aus
- Klicken Sie auf die blaue Schaltfläche Einen Token erstellen
- Geben Sie das Manager-Anmeldepasswort ein, wie angefordert
- Kopieren Sie den Token sicher - er wird danach nicht mehr zugänglich sein
Anwendungsbeispiel: Token für die Newsletter-API