LiquidAI: LFM2.5-24B-A2B

LiquidAI: LFM2.5-24B-A2B è un modello testuale di LiquidAI. È un modello di ragionamento mixture-of-experts con 24B parametri totali e 2,45B parametri attivi. Il provider lo descrive come sempre ragionante prima di rispondere, e come costruito per agenti che chiamano strumenti. Si colloca nella categoria testo, quindi accetta testo in input e restituisce testo in output.

Il modello accetta input testuale e produce output testuale, con una finestra di contesto di 128.000 token e un output massimo di 8.192 token. Poiché è un modello di ragionamento, elabora il suo ragionamento prima di produrre una risposta, e i parametri include_reasoning e reasoning consentono di controllare come tale ragionamento viene gestito nella risposta. Supporta inoltre l'uso di strumenti tramite i parametri tools e tool_choice, insieme a output strutturati e response_format per vincolare la forma dell'output. Il comportamento di campionamento può essere regolato con temperature, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed e stop, e logprobs con top_logprobs sono disponibili se servono probabilità a livello di token.

Queste capacità indicano alcuni usi pratici. Gli agenti che chiamano strumenti sono il caso più evidente, poiché il modello è progettato per ragionare e poi invocare strumenti, il che si adatta a flussi di lavoro che devono cercare informazioni, chiamare funzioni o concatenare passaggi. Gli output strutturati lo rendono una scelta ragionevole per estrarre campi da documenti o restituire risultati leggibili da una macchina che alimentano un altro sistema. La finestra di contesto di 128.000 token supporta input lunghi come documenti di grandi dimensioni, cronologie di conversazione lunghe o file di codice considerevoli, e il passaggio di ragionamento aiuta nei compiti che traggono vantaggio dall'elaborare un problema prima di rispondere, come analisi o pianificazione in più passaggi.

Si chiama il modello tramite l'API compatibile con OpenAI di api14 usando l'id modello "liquid/lfm-2.5-24b-a2b". Le richieste seguono il formato OpenAI chat completions, quindi gli SDK e i client OpenAI esistenti funzionano con un cambio di base URL e di id modello. I parametri di richiesta supportati sono frequency_penalty, include_reasoning, logprobs, max_completion_tokens, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_logprobs.

Tenere presente il limite di output: le risposte sono limitate a 8.192 token, quindi i compiti che richiedono una singola risposta molto lunga potrebbero richiedere di suddividere il lavoro su più chiamate. Il modello è solo testuale, quindi se l'input include immagini o audio servirà un modello diverso. Per la generazione testuale semplice e ad alto volume, dove ragionamento e chiamate a strumenti non aggiungono valore, un modello più semplice può essere più economico e più veloce, ma per il lavoro in stile agente e di estrazione strutturata l'insieme di funzionalità di questo modello è una buona corrispondenza.