LiquidAI: d1-ultra

LiquidAI: d1-ultra è un modello di LiquidAI, ed è il più grande modello decisionale offerto dal provider. Si colloca nella categoria decisions anziché in quella general chat, il che indica a cosa serve: invece di produrre prosa conversazionale, è costruito per restituire una scelta. Viene servito come endpoint System One, quindi va considerato come un componente che si chiama per prendere una decisione all'interno di un sistema più ampio, non come un assistente con cui conversare.

Il modello accetta testo e immagini come input, e la sua modalità di output è decisions. Si invia uno stato composto da testo e immagini insieme a domande tipizzate, e restituisce una scelta. La finestra di contesto è di 32.768 token, e l'output massimo è di 29.491 token. Poiché gli input sono domande tipizzate su uno stato, il modello è progettato attorno a chiamate strutturate anziché a prompting aperto, e le immagini incluse fanno parte dello stato da cui viene presa la decisione.

Gli usi pratici derivano da questa forma. Ovunque ci sia una situazione descrivibile con testo e immagini e un insieme di risposte candidate, d1-ultra può sceglierne una. Questo copre attività di classificazione e instradamento, il triage di richieste o ticket in arrivo, la selezione di un'azione da un insieme fisso di opzioni e la valutazione di input visivi come screenshot o foto rispetto a una domanda fornita. Si adatta anche a pipeline in cui un passaggio successivo necessita di una singola decisione anziché di un paragrafo di spiegazione, poiché l'output è una decisione e non testo libero.

Si chiama tramite l'API compatibile con OpenAI di api14 usando l'id del modello "liquid/d1-ultra". Poiché l'endpoint segue il formato di richiesta OpenAI, è possibile usare le librerie client OpenAI esistenti e puntarle ad api14. Il modello non elenca parametri supportati, quindi prevedere di inviare l'id del modello e il proprio input, e non fare affidamento sull'accettazione di controlli di campionamento come temperature o top_p. Consultare la tabella dei prezzi live su questa pagina per le tariffe correnti prima di impegnarsi in una pipeline ad alto volume.

Un limite da tenere a mente è la finestra di contesto di 32.768 token, che deve contenere sia il testo sia le eventuali immagini incluse, quindi stati molto grandi dovranno essere ridotti o suddivisi. L'output è una decisione, quindi se serve prosa generata, riassunti o spiegazioni, un modello di generazione di testo sarà più adatto. Inoltre non c'è una superficie di parametri da regolare, quindi se l'applicazione dipende dal controllo della casualità o della lunghezza tramite parametri di richiesta, questo modello non offrirà quella leva.