Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
~liquid/d1-latestUsa il tuo saldo ai prezzi indicati sopra. I nuovi account partono con utilizzo gratuito.
Impostazioni
LiquidAI: d1 Latest è un modello di LiquidAI che rientra nella categoria delle decisioni. È un alias di routing piuttosto che uno snapshot fisso: il modello reindirizza sempre al modello più recente della famiglia d1, quindi la versione sottostante può cambiare nel tempo mentre l'identificatore resta lo stesso. Questo lo rende una scelta comoda quando vuoi rimanere sulla release d1 corrente senza aggiornare la tua integrazione ogni volta che viene rilasciata una nuova versione.
Il modello accetta testo e immagini come input e produce decisioni come output. La sua finestra di contesto è di 65.536 token, e l'output massimo è di 58.982 token. Poiché la modalità di output è costituita da decisioni anziché da testo libero, il modello è progettato per restituire un'opzione scelta o un verdetto anziché una risposta in prosa. La combinazione di input di immagini e un contesto da 65k significa che una singola richiesta può trasportare una quantità sostanziale di materiale testuale insieme a contenuti visivi prima che venga presa una decisione.
I casi d'uso pratici derivano direttamente da questa forma. Le attività di classificazione e routing si adattano bene, come decidere a quale categoria appartiene un ticket di supporto o quale team dovrebbe gestire una richiesta. Anche la logica di approvazione e di gating è adatta in modo naturale, dove il modello esamina una richiesta e restituisce una decisione. Poiché le immagini sono accettate, funzionano anche le decisioni che dipendono da input visivi, per esempio esaminare uno screenshot o una foto insieme al testo di accompagnamento e restituire un verdetto. Qualsiasi flusso di lavoro in cui hai bisogno di un esito discreto anziché di prosa generata è un candidato.
Chiami il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "~liquid/d1-latest". Poiché l'interfaccia segue il formato OpenAI, le librerie client e gli strumenti OpenAI esistenti funzionano senza modifiche; punti il tuo client all'endpoint api14 e passi l'id del modello nella richiesta. Il modello non supporta parametri di richiesta aggiuntivi oltre a quelli standard, quindi non ci sono opzioni specifiche del provider da configurare. Se fai affidamento su controlli di campionamento o altre manopole di regolazione, non sono disponibili qui, e la richiesta dovrebbe essere limitata ai campi standard.
Una cosa da tenere a mente è che l'alias segue il modello d1 più recente, quindi il comportamento può cambiare quando LiquidAI aggiorna la famiglia, il che è importante se hai bisogno di risultati riproducibili nel tempo. Fissare a una versione d1 specifica sarebbe l'alternativa in quel caso. La modalità di output a decisioni significa anche che questo modello non è adatto quando hai bisogno di testo generato, riassunti o risposte conversazionali; un modello di generazione di testo servirebbe meglio a tali esigenze.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "~liquid/d1-latest",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
Questa community non ha ancora discussioni. Apri la prima su LiquidAI: d1 Latest.