Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
liquid/lfm-3-1.7b:freeUsa il tuo saldo ai prezzi indicati sopra. I nuovi account partono con utilizzo gratuito.
Impostazioni
LiquidAI: LFM3-1.7B (free) è un modello testuale di LiquidAI, identificato su api14 con il model id liquid/lfm-3-1.7b:free. È un modello compatto con 1,7 miliardi di parametri, posizionato dal suo provider come un piccolo modello testuale post-addestrato per agenti, tool calling e output strutturati. È un modello solo testuale in entrambe le direzioni: accetta prompt testuali e restituisce risposte testuali.
Il modello ha una finestra di contesto di 262.144 token, ampia per un modello di queste dimensioni, e consente di gestire documenti lunghi, conversazioni estese o output di tool di dimensioni considerevoli in una singola richiesta. Il suo output massimo è di 8.192 token. Secondo il provider, il modello ragiona prima di rispondere, quindi le risposte possono includere un passaggio di ragionamento prima dell'output finale. Poiché è stato post-addestrato per il comportamento agentico, il tool calling e gli output strutturati sono parti fondamentali del suo design, non aggiunte successive.
Queste capacità indicano un insieme di utilizzi piuttosto specifico. Il contesto lungo si adatta a riassumere o estrarre informazioni da documenti molto lunghi, rivedere file di codice di grandi dimensioni e mantenere conversazioni di lunga durata in cui i turni precedenti devono restare visibili. Il tool calling lo rende un candidato per i flussi di lavoro degli agenti, in cui il modello decide quale funzione invocare e con quali argomenti. Gli output strutturati sono utili quando la risposta deve conformarsi a uno schema, ad esempio compilando campi per un servizio a valle o producendo record leggibili dalla macchina. Il comportamento di ragionamento è utile per domande a più passaggi, in cui un passaggio intermedio migliora la risposta finale.
Il modello si chiama tramite l'API compatibile con OpenAI di api14 usando il model id liquid/lfm-3-1.7b:free, quindi le librerie client OpenAI esistenti e le forme delle richieste funzionano cambiando solo la base URL e il nome del modello. Il modello supporta un ampio insieme di parametri di richiesta: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, max_tokens, max_completion_tokens, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning. I controlli di campionamento come temperature e top_p coprono la generazione ordinaria, mentre tools e tool_choice guidano il function calling e structured_outputs o response_format vincolano la forma della risposta. I parametri reasoning e include_reasoning riguardano il passaggio di ragionamento del modello, e seed supporta un campionamento riproducibile.
Il principale vincolo da tenere presente è il limite massimo di output: le risposte sono limitate a 8.192 token anche se la finestra di contesto è molto più ampia, quindi le attività che richiedono risposte singole molto lunghe possono richiedere di suddividere il lavoro su più chiamate. Il modello è inoltre solo testuale, quindi non può accettare immagini o audio come input. Per carichi di lavoro in cui un piccolo ed efficiente modello testuale con tool calling e output strutturati è sufficiente, è una scelta ragionevole; dove l'attività dipende da altre modalità di input o da un budget di output molto più ampio, un modello diverso servirà meglio.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_pQuesta community non ha ancora discussioni. Apri la prima su LiquidAI: LFM3-1.7B (free).