LiquidAI: LFM2.5-2.6B

LiquidAI: LFM2.5-2.6B es un modelo de texto de Liquid AI. Pertenece a la familia LFM2.5, y el 2.6B del nombre se refiere a su clase de tamaño dentro de esa línea. Liquid AI lo posiciona como un modelo de razonamiento compacto, lo que significa que el comportamiento de razonamiento es parte de aquello para lo que el modelo fue construido, en lugar de algo añadido después. Se sitúa en la categoría de texto, por lo que trabaja con lenguaje en lugar de imágenes, audio u otros medios.

En el lado de la entrada, el modelo acepta únicamente texto, y produce únicamente texto. Su ventana de contexto es de 128.000 tokens, lo cual es suficientemente grande para contener documentos sustanciales, historiales de conversación largos o cargas de recuperación de múltiples documentos en una sola solicitud. La salida máxima es de 8.192 tokens, por lo que las respuestas están acotadas muy por debajo de la capacidad de entrada. El razonamiento es una parte de primera clase de la interfaz: los parámetros admitidos incluyen reasoning e include_reasoning, que permiten controlar y mostrar la salida de razonamiento del modelo. También admite salidas estructuradas y response_format, de modo que se puede restringir la generación a un esquema en lugar de texto libre.

Esas capacidades apuntan a un conjunto bastante específico de usos. Liquid AI señala los flujos de trabajo de agentes, la extracción de datos, RAG y el procesamiento de contexto largo como el encaje previsto. La extracción de datos y las salidas estructuradas van juntas de forma natural: se introduce un documento y se piden campos de vuelta en una forma definida. RAG se beneficia del contexto de 128.000 tokens, ya que los pasajes recuperados se pueden empaquetar sin un recorte agresivo. Los flujos de trabajo de agentes se admiten mediante los parámetros tools y tool_choice, que permiten al modelo llamar a funciones que usted defina. El procesamiento de contexto largo abarca la summarización, la respuesta a preguntas sobre entradas grandes y tareas similares en las que el documento completo necesita estar visible a la vez.

Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "liquid/lfm-2.5-2.6b". Dado que la interfaz sigue el formato de OpenAI, las bibliotecas cliente de OpenAI existentes funcionan con un cambio de URL base e id de modelo. Los parámetros de solicitud que admite son frequency_penalty, include_reasoning, logprobs, max_completion_tokens, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs y top_p. Eso cubre controles de muestreo, penalizaciones, secuencias de parada, semilla para reproducibilidad, límites de tokens, llamada a herramientas, salida estructurada e inspección de probabilidades logarítmicas.

Merece la pena señalar una limitación por adelantado. Liquid AI aconseja no usar este modelo para codificación agéntica, así que si su carga de trabajo es generación de código o un agente de codificación, es probable que otro modelo encaje mejor. El techo de salida de 8.192 tokens también importa para tareas que necesitan respuestas únicas muy largas. Para tareas de texto en las áreas indicadas anteriormente, sin embargo, la combinación de una ventana de contexto grande, soporte de razonamiento, llamada a herramientas y salidas estructuradas lo convierte en un candidato razonable para evaluar.