LiquidAI: LFM2.5-24B-A2B

LiquidAI: LFM2.5-24B-A2B é um modelo de texto da LiquidAI. É um modelo de raciocínio de mistura de especialistas com 24B de parâmetros totais e 2,45B de parâmetros ativos. O fornecedor descreve-o como sempre a raciocinar antes de responder, e como concebido para agentes que chamam ferramentas. Situa-se na categoria de texto, por isso recebe texto e devolve texto.

O modelo aceita entrada de texto e produz saída de texto, com uma janela de contexto de 128.000 tokens e uma saída máxima de 8.192 tokens. Por ser um modelo de raciocínio, trabalha o seu raciocínio antes de produzir uma resposta, e os parâmetros include_reasoning e reasoning permitem controlar como esse raciocínio é tratado na resposta. Também suporta uso de ferramentas através dos parâmetros tools e tool_choice, juntamente com saídas estruturadas e response_format para restringir a forma da saída. O comportamento de amostragem pode ser ajustado com temperature, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed e stop, e logprobs com top_logprobs estão disponíveis se precisar de probabilidades ao nível do token.

Estas capacidades apontam para alguns usos práticos. Os agentes que chamam ferramentas são o encaixe mais claro, uma vez que o modelo foi concebido para raciocinar e depois invocar ferramentas, o que se adequa a fluxos de trabalho que precisam de consultar informação, chamar funções ou encadear passos. As saídas estruturadas tornam-no uma escolha razoável para extrair campos de documentos ou devolver resultados legíveis por máquina que alimentam outro sistema. A janela de contexto de 128.000 tokens suporta entradas longas, como documentos grandes, históricos de conversa longos ou ficheiros de código consideráveis, e o passo de raciocínio ajuda em tarefas que beneficiam de trabalhar um problema antes de responder, como análise ou planeamento em vários passos.

Chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "liquid/lfm-2.5-24b-a2b". Os pedidos seguem o formato de chat completions da OpenAI, por isso os SDKs e clientes OpenAI existentes funcionam com uma alteração do base URL e do id de modelo. Os parâmetros de pedido suportados são frequency_penalty, include_reasoning, logprobs, max_completion_tokens, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_logprobs.

Tenha em conta o limite de saída: as respostas estão limitadas a 8.192 tokens, por isso tarefas que precisam de uma única resposta muito longa podem exigir dividir o trabalho por vários pedidos. O modelo é apenas de texto, por isso se a sua entrada incluir imagens ou áudio precisará de um modelo diferente. Para geração de texto simples e de grande volume, onde o raciocínio e as chamadas de ferramentas não acrescentam valor, um modelo mais simples pode ser mais barato e mais rápido, mas para trabalho ao estilo de agente e de extração estruturada o conjunto de funcionalidades deste modelo é uma boa opção.