LiquidAI: LFM2.5-2.6B

LiquidAI: LFM2.5-2.6B é um modelo de texto da Liquid AI. Pertence à família LFM2.5, e o 2.6B no nome refere-se à sua classe de tamanho dentro dessa linha. A Liquid AI posiciona-o como um modelo de raciocínio compacto, o que significa que o comportamento de raciocínio faz parte daquilo para que o modelo foi construído, em vez de ser algo adicionado posteriormente. Situa-se na categoria de texto, por isso funciona com linguagem e não com imagens, áudio ou outros media.

Do lado da entrada, o modelo aceita apenas texto e produz apenas texto. A sua janela de contexto é de 128.000 tokens, o que é suficientemente grande para conter documentos substanciais, históricos de conversa longos ou cargas de recuperação multi-documento num único pedido. A saída máxima é de 8.192 tokens, por isso as respostas ficam bem abaixo da capacidade de entrada. O raciocínio é uma parte de primeira classe da interface: os parâmetros suportados incluem reasoning e include_reasoning, que permitem controlar e expor a saída de raciocínio do modelo. Também suporta saídas estruturadas e response_format, para que possa restringir a geração a um esquema em vez de texto livre.

Essas capacidades apontam para um conjunto bastante específico de utilizações. A Liquid AI indica fluxos de trabalho de agentes, extração de dados, RAG e processamento de contexto longo como o encaixe pretendido. A extração de dados e as saídas estruturadas combinam naturalmente: fornece um documento e pede campos de volta numa forma definida. O RAG beneficia do contexto de 128.000 tokens, uma vez que as passagens recuperadas podem ser incluídas sem cortes agressivos. Os fluxos de trabalho de agentes são suportados através dos parâmetros tools e tool_choice, que permitem ao modelo chamar funções que define. O processamento de contexto longo abrange sumarização, resposta a perguntas sobre entradas grandes e tarefas semelhantes em que o documento completo precisa de estar visível de uma só vez.

Chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "liquid/lfm-2.5-2.6b". Como a interface segue o formato OpenAI, as bibliotecas de cliente OpenAI existentes funcionam com uma alteração do URL base e do id de modelo. Os parâmetros de pedido que suporta são frequency_penalty, include_reasoning, logprobs, max_completion_tokens, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs e top_p. Isto cobre controlos de amostragem, penalizações, sequências de paragem, seed para reprodutibilidade, limites de tokens, chamada de ferramentas, saída estruturada e inspeção de probabilidades logarítmicas.

Vale a pena notar desde já uma limitação. A Liquid AI aconselha a não usar este modelo para programação agêntica, por isso, se a sua carga de trabalho for geração de código ou um agente de programação, outro modelo é provavelmente mais adequado. O limite de saída de 8.192 tokens também é relevante para tarefas que exigem respostas únicas muito longas. Para tarefas de texto nas áreas acima indicadas, no entanto, a combinação de uma janela de contexto grande, suporte de raciocínio, chamada de ferramentas e saídas estruturadas torna-o um candidato razoável a avaliar.