Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
~liquid/d1-ultra-latestUsa il tuo saldo ai prezzi indicati sopra. I nuovi account partono con utilizzo gratuito.
Impostazioni
LiquidAI: d1-ultra Latest è un modello di LiquidAI, e si colloca nella categoria decisions. È un alias di reindirizzamento: il modello punta sempre al modello più recente della famiglia d1-ultra, quindi la versione sottostante può cambiare nel tempo mentre l'id del modello resta lo stesso. Questo comportamento vale la pena conoscerlo prima di sviluppare su di esso, perché fissare un target in movimento è diverso dal fissare uno snapshot fisso.
Il modello accetta testo e immagini come input, quindi può lavorare con prompt che combinano istruzioni scritte e materiale visivo. La sua modalità di output è decisions anziché prosa libera, il che significa che ci si deve aspettare un output di scelta strutturato anziché una risposta in stile chat. La finestra di contesto è di 32768 token, e l'output massimo è di 29491 token. Questi due numeri insieme significano che una richiesta può trasportare una quantità sostanziale di input e lasciare comunque spazio per un grande output di decisione.
Gli usi pratici derivano da questa forma. Poiché accetta immagini oltre al testo e restituisce decisioni, si adatta a compiti di classificazione e instradamento in cui la risposta è un'etichetta, una categoria o una scelta tra opzioni. Esempi includono il triage delle richieste in arrivo, lo smistamento di documenti o screenshot in bucket, e la scelta di un ramo in un flusso di lavoro automatizzato. L'input di immagini apre casi in cui il segnale decisionale è visivo, come giudicare una foto o un'interfaccia renderizzata, mentre l'input di testo trasporta le regole o il contesto per la decisione. L'ampia tolleranza di output è utile quando una singola chiamata deve restituire molte decisioni contemporaneamente anziché una sola.
Lo si chiama tramite l'API compatibile con OpenAI di api14 usando l'id del modello "~liquid/d1-ultra-latest". Poiché l'endpoint segue la forma delle chat completions di OpenAI, si inviano i messaggi nel modo usuale e si legge la risposta dai campi standard. Il modello non supporta parametri di richiesta aggiuntivi oltre a quelli comuni, quindi non c'è una superficie di tuning separata da configurare; mantieni la richiesta sui campi standard e inserisci le istruzioni del compito nel prompt. Poiché l'id è un reindirizzamento, la stessa richiesta potrebbe essere servita in seguito da una diversa versione sottostante di d1-ultra, quindi testa di nuovo se il comportamento cambia.
Se il tuo compito richiede testo generato, conversazione o spiegazioni anziché una decisione, un modello con modalità di output testuale si adatterà meglio. Il contesto di 32768 token è anche un tetto reale: documenti lunghi, grandi insiemi di immagini o cronologie estese possono richiedere chunking o un modello con una finestra più lunga. E se hai bisogno di un comportamento riproducibile nel tempo, la natura di reindirizzamento di questo id è un motivo per verificare se è invece disponibile una versione fissa.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/decisions", { body: {
"model": "~liquid/d1-ultra-latest",
"state": "Customer: I was charged twice for my order and want my money back.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this message?",
"criteria": {
"billing": "Payments, refunds, invoices",
"support": "Product questions and bugs",
"sales": "Pricing and new purchases"
}
},
"urgent": {
"type": "noul",
"instructions": "Does this need a reply today?",
"criteria": {
"true": "Money, outage or legal risk",
"false": "Can wait"
}
}
}
} });
console.log(result.answers);
Questa community non ha ancora discussioni. Apri la prima su LiquidAI: d1-ultra Latest.