Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
liquid/lfm-3-1.7b:freeUsa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
LiquidAI: LFM3-1.7B (free) é um modelo de texto da LiquidAI, identificado na api14 pelo id de modelo liquid/lfm-3-1.7b:free. É um modelo compacto com 1,7 mil milhões de parâmetros, posicionado pelo seu fornecedor como um pequeno modelo de texto que foi pós-treinado para agentes, chamada de ferramentas e saídas estruturadas. É um modelo apenas de texto em ambos os sentidos: aceita prompts de texto e devolve respostas de texto.
O modelo tem uma janela de contexto de 262.144 tokens, o que é grande para um modelo deste tamanho e permite lidar com documentos longos, conversas extensas ou saídas de ferramentas consideráveis num único pedido. A sua saída máxima é de 8.192 tokens. Segundo o fornecedor, o modelo raciocina antes de responder, pelo que as respostas podem incluir um passo de raciocínio antes da saída final. Como foi pós-treinado para comportamento agêntico, a chamada de ferramentas e as saídas estruturadas são partes fundamentais do seu design, e não complementos.
Essas capacidades apontam para um conjunto de utilizações bastante específico. O contexto longo é adequado para resumir ou extrair informação de documentos extensos, rever ficheiros de código grandes e manter conversas de longa duração em que os turnos anteriores precisam de permanecer visíveis. A chamada de ferramentas torna-o um candidato para fluxos de trabalho de agentes, em que o modelo decide que função invocar e com que argumentos. As saídas estruturadas ajudam quando a resposta tem de respeitar um esquema, por exemplo preencher campos para um serviço a jusante ou produzir registos legíveis por máquina. O comportamento de raciocínio é útil para perguntas com vários passos, em que um passo intermédio melhora a resposta final.
Chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo liquid/lfm-3-1.7b:free, pelo que as bibliotecas de cliente OpenAI existentes e as formas de pedido funcionam apenas com a alteração do URL base e do nome do modelo. O modelo suporta um amplo conjunto de parâmetros de pedido: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, max_tokens, max_completion_tokens, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning. Os controlos de amostragem como temperature e top_p cobrem a geração comum, enquanto tools e tool_choice orientam a chamada de funções e structured_outputs ou response_format restringem a forma da resposta. Os parâmetros reasoning e include_reasoning estão relacionados com o passo de raciocínio do modelo, e seed suporta amostragem reproduzível.
A principal restrição a ter em conta é o limite de saída: as respostas estão limitadas a 8.192 tokens, embora a janela de contexto seja muito maior, pelo que tarefas que exijam respostas únicas muito longas podem requerer a divisão do trabalho por vários pedidos. O modelo é também apenas de texto, pelo que não pode receber imagens ou áudio como entrada. Para cargas de trabalho em que um modelo de texto pequeno e eficiente com chamada de ferramentas e saídas estruturadas é suficiente, é uma escolha razoável; quando a tarefa depende de outras modalidades de entrada ou de um orçamento de saída muito maior, um modelo diferente servirá melhor.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_pEsta comunidade ainda não tem tópicos. Abra o primeiro sobre LiquidAI: LFM3-1.7B (free).