LiquidAI: LFM2.5-24B-A2B

LiquidAI: LFM2.5-24B-A2B är en textmodell från LiquidAI. Det är en mixture-of-experts-resonemangsmodell med 24B totala parametrar och 2,45B aktiva parametrar. Leverantören beskriver den som att den alltid resonerar innan den svarar, och som byggd för agenter som anropar verktyg. Den tillhör textkategorin, så den tar emot text och returnerar text.

Modellen accepterar textinmatning och producerar textutdata, med ett kontextfönster på 128 000 tokens och en maximal utdata på 8 192 tokens. Eftersom det är en resonemangsmodell arbetar den igenom sitt resonemang innan den producerar ett svar, och parametrarna include_reasoning och reasoning låter dig styra hur resonemanget hanteras i svaret. Den stöder även verktygsanvändning genom parametrarna tools och tool_choice, tillsammans med strukturerade utdata och response_format för att begränsa utdatans form. Samplingsbeteendet kan justeras med temperature, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed och stop, och logprobs med top_logprobs är tillgängliga om du behöver sannolikheter på tokennivå.

Dessa funktioner pekar mot några praktiska användningsområden. Verktygsanropande agenter är den tydligaste matchningen, eftersom modellen är utformad för att resonera och sedan anropa verktyg, vilket passar arbetsflöden som behöver slå upp saker, anropa funktioner eller kedja samman steg. Strukturerade utdata gör den till ett rimligt val för att extrahera fält från dokument eller returnera maskinläsbara resultat som matas in i ett annat system. Kontextfönstret på 128 000 tokens stöder långa indata som stora dokument, långa konversationshistoriker eller omfattande kodfiler, och resonemangssteget hjälper till vid uppgifter som gynnas av att arbeta igenom ett problem innan man svarar, som flerstegsanalys eller planering.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t "liquid/lfm-2.5-24b-a2b". Förfrågningar följer OpenAI:s chat completions-format, så befintliga OpenAI-SDK:er och klienter fungerar med ett byte av bas-URL och modell-id. De stödda förfrågningsparametrarna är frequency_penalty, include_reasoning, logprobs, max_completion_tokens, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k och top_logprobs.

Tänk på taket för utdata: svar begränsas till 8 192 tokens, så uppgifter som behöver ett mycket långt enskilt svar kan kräva att arbetet delas upp över flera anrop. Modellen är endast för text, så om din indata innehåller bilder eller ljud behöver du en annan modell. För enkel, högvolymsmässig textgenerering där resonemang och verktygsanrop inte tillför något kan en enklare modell vara billigare och snabbare, men för agentliknande arbete och strukturerad extrahering är den här modellens funktionsuppsättning en bra matchning.