Base di conoscenze
1000 FAQ, 500 tutorial e video esplicativi. Qui ci sono delle soluzioni!
LLM API è destinata agli sviluppatori che desiderano utilizzare il LLM (Large Language Model) di Infomaniak nelle loro applicazioni.
Cos'è LLM API?
LLM (Large Language Model) è un tipo di modello di apprendimento automatico che è stato addestrato su un massiccio set di dati di testo e codice. Gli LLM sono in grado di generare testo, tradurre lingue, scrivere vari tipi di contenuti creativi e fornire risposte informative alle domande.
Per rimanere fedele ai suoi valori, Infomaniak offre un LLM basato su Mixtral, uno dei modelli open source più potenti disponibili sul mercato, all'interno degli strumenti kSuite.
Questa intelligenza artificiale sovrana è in grado di aiutarti, ad esempio, nella scrittura, nella parafrasi o nella traduzione delle tue e-mail.
LLM API ti consente di collegare le tue librerie o framework tramite API senza un'interfaccia.
La documentazione dell'API si trova su https://developer.infomaniak.com/docs/api e contiene informazioni sulle metodologie disponibili, sui parametri e sugli esempi.
Ottenere LLM API
Per utilizzare LLM API è necessario creare un token API.
Successivamente, per accedere a LLM API e, ad esempio, verificare il tuo consumo giornaliero:
- Accedi al Manager di Infomaniak (manager.infomaniak.com) da un browser web come Brave o Firefox.
- Fai clic sull'icona in alto a destra dell'interfaccia (o naviga attraverso il menu laterale sinistro, ad esempio).
- Scegli LLM API (nell'universo del Cloud Computing)
Può esistere un solo prodotto per organizzazione, ma i token API possono essere multipli.
LLM API può essere utilizzata dagli utenti seguenti:
- Rappresentante legale dell'organizzazione
- Amministratori dell'organizzazione
- Collaboratori dell'organizzazione con diritti tecnici
Fatturazione
- API fatturata tramite credito
- Ogni richiesta consuma un credito o token LLM*
- L'accesso alla fatturazione è disponibile per i rappresentanti legali e gli amministratori
- I collaboratori con diritti tecnici hanno accesso alla documentazione ma non alle fatture
- È necessaria una carta di credito per iniziare a utilizzare l'API
- Un'eventuale fattura non pagata comporterà la sospensione del servizio
- È possibile impostare un limite di spesa da parte di un utente con diritti di fatturazione nell'organizzazione e nel prodotto per limitare i costi non previsti
- Le tariffe sono presentate nella pagina di vendita di LLM
* I token LLM (da non confondere con i token API) sono unità di base utilizzate dai modelli di linguaggio per elaborare e generare testo. Ogni token rappresenta generalmente una parola, una parte di parola o un'entità in un corpus di testo e viene utilizzato per l'apprendimento e la generazione di linguaggio naturale.
ResponsabilitÃ
Questo modello di linguaggio genera testo in base ai dati che ha assimilato durante il suo addestramento, privo di coscienza, intenzioni o responsabilità morali. In caso di utilizzo inappropriato o pericoloso di questo assistente, la responsabilità ricade sull'utente che compie tali azioni. È fondamentale che l'utente sia consapevole del fatto che le informazioni generate dal modello non sono sempre precise e non devono essere considerate una fonte di informazioni incontestabili.
Gli utenti devono esercitare il loro giudizio critico e verificare le informazioni fornite dall'assistente da fonti affidabili quando necessario. Ad esempio, se una persona utilizza il modello per compiti cruciali come consulenze mediche, legali o finanziarie, deve adottare precauzioni aggiuntive per confermare le informazioni provenienti dal modello.
Questa guida riguarda i token di autenticazione o token di Infomaniak, che vengono utilizzati per verificare l'identità dell'applicazione e concederle autorizzazioni specifiche per interagire in modo sicuro con le funzionalità e i dati dell'API di Infomaniak.
Generare un token API di Infomaniak
I token di autenticazione o token vengono utilizzati per verificare l'identità dell'applicazione e concederle autorizzazioni specifiche per interagire in modo sicuro con le funzionalità e i dati dell'API.
Per accedere all'API di Infomaniak, è necessario generare un token di accesso. La sua durata predefinita è "illimitata", ma è possibile definire una durata personalizzata al momento della creazione.
Attenzione, se non vengono effettuate chiamate con il token per un anno, viene disattivato automaticamente. Sarà quindi necessario generarne uno nuovo. Non c'è limite al numero di token che puoi creare.
Al momento della creazione, sarà possibile scegliere l'applicazione e lo scope accessibile dal token (per corrispondere alla tua esigenza e al progetto attuale).
Aggiungi / recupera un token
Le chiavi API sono gestite su questa pagina del Manager:
Per farlo:
- Fai clic sul pulsante blu Crea un token
- Scegli il prodotto appropriato dal menu a discesa in base alla tua esigenza e al progetto attuale
- Scegli un periodo di validitÃ
- Fai clic sul pulsante blu Crea un token
- Inserisci la password di accesso al Manager come richiesto
- Copia il token in modo sicuro, non sarà più accessibile dopo questo passaggio
Esempio di applicazione: token per l'API dei newsletter