Usamos cookies. Las cookies y el almacenamiento del navegador mantienen tu sesión iniciada y recuerdan tus preferencias. Con tu permiso, también medimos cómo se usa el sitio. Puedes en cualquier momento. Consulta nuestra política de cookies.
liquid/lfm-3-1.7b:freeSe ejecuta con tu saldo a los precios indicados arriba. Las cuentas nuevas empiezan con uso gratuito.
Configuración
LiquidAI: LFM3-1.7B (gratis) es un modelo de texto de LiquidAI, identificado en api14 por el id de modelo liquid/lfm-3-1.7b:free. Es un modelo compacto con 1.7 mil millones de parámetros, posicionado por su proveedor como un modelo de texto pequeño que ha sido post-entrenado para agentes, llamadas a herramientas y salidas estructuradas. Es un modelo solo de texto en ambas direcciones: acepta prompts de texto y devuelve respuestas de texto.
El modelo tiene una ventana de contexto de 262,144 tokens, lo cual es grande para un modelo de este tamaño y permite manejar documentos largos, conversaciones extendidas o salidas de herramientas considerables en una sola solicitud. Su salida máxima es de 8,192 tokens. Según el proveedor, el modelo razona antes de responder, por lo que las respuestas pueden incluir un paso de razonamiento antes de la salida final. Debido a que fue post-entrenado para comportamiento agéntico, las llamadas a herramientas y las salidas estructuradas son partes fundamentales de su diseño en lugar de añadidos.
Esas capacidades apuntan a un conjunto de usos bastante específico. El contexto largo es adecuado para resumir o extraer información de documentos extensos, revisar archivos de código grandes y mantener conversaciones de larga duración donde los turnos anteriores necesitan permanecer a la vista. Las llamadas a herramientas lo convierten en candidato para flujos de trabajo de agentes, donde el modelo decide qué función invocar y con qué argumentos. Las salidas estructuradas ayudan cuando la respuesta debe ajustarse a un esquema, por ejemplo rellenar campos para un servicio posterior o producir registros legibles por máquina. El comportamiento de razonamiento es útil para preguntas de varios pasos donde un paso intermedio mejora la respuesta final.
Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo liquid/lfm-3-1.7b:free, por lo que las bibliotecas cliente de OpenAI existentes y las formas de solicitud funcionan cambiando solo la URL base y el nombre del modelo. El modelo admite un amplio conjunto de parámetros de solicitud: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, max_tokens, max_completion_tokens, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning. Los controles de muestreo como temperature y top_p cubren la generación ordinaria, mientras que tools y tool_choice impulsan las llamadas a funciones y structured_outputs o response_format restringen la forma de la respuesta. Los parámetros reasoning e include_reasoning se relacionan con el paso de razonamiento del modelo, y seed admite un muestreo reproducible.
La principal restricción a tener en cuenta es el techo de salida: las respuestas están limitadas a 8,192 tokens aunque la ventana de contexto es mucho mayor, por lo que las tareas que necesitan respuestas únicas muy largas pueden requerir dividir el trabajo en varias llamadas. El modelo también es solo de texto, por lo que no puede tomar imágenes o audio como entrada. Para cargas de trabajo donde un modelo de texto pequeño y eficiente con llamadas a herramientas y salidas estructuradas es suficiente, es una opción razonable; donde la tarea depende de otras modalidades de entrada o de un presupuesto de salida mucho mayor, un modelo diferente servirá mejor.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_pEsta comunidad aún no tiene temas. Abre el primero sobre LiquidAI: LFM3-1.7B (free).