Nous utilisons des cookies. Les cookies et le stockage du navigateur vous gardent connecté et mémorisent vos préférences. Avec votre accord, nous mesurons aussi l’utilisation du site. Vous pouvez à tout moment. Consultez notre politique relative aux cookies.
liquid/lfm-3-1.7b:freeUtilise votre solde aux prix indiqués ci-dessus. Les nouveaux comptes démarrent avec une consommation gratuite.
Paramètres
LiquidAI : LFM3-1.7B (gratuit) est un modèle textuel de LiquidAI, identifié sur api14 par l'identifiant de modèle liquid/lfm-3-1.7b:free. Il s'agit d'un modèle compact de 1,7 milliard de paramètres, positionné par son fournisseur comme un petit modèle textuel ayant fait l'objet d'un post-entraînement pour les agents, l'appel d'outils et les sorties structurées. C'est un modèle exclusivement textuel dans les deux sens : il accepte des invites textuelles et renvoie des réponses textuelles.
Le modèle dispose d'une fenêtre de contexte de 262 144 jetons, ce qui est important pour un modèle de cette taille et permet de traiter de longs documents, des conversations étendues ou des sorties d'outils volumineuses en une seule requête. Sa sortie maximale est de 8 192 jetons. Selon le fournisseur, le modèle raisonne avant de répondre, de sorte que les réponses peuvent inclure une étape de raisonnement avant la sortie finale. Comme il a fait l'objet d'un post-entraînement pour un comportement agentique, l'appel d'outils et les sorties structurées font partie intégrante de sa conception plutôt que d'être des ajouts.
Ces capacités renvoient à un ensemble d'usages assez spécifique. Le contexte long convient à la synthèse ou à l'extraction d'informations à partir de documents volumineux, à la revue de fichiers de code de grande taille et au maintien de conversations longues où les tours précédents doivent rester visibles. L'appel d'outils en fait un candidat pour les workflows d'agents, où le modèle décide quelle fonction invoquer et avec quels arguments. Les sorties structurées sont utiles lorsque la réponse doit respecter un schéma, par exemple pour remplir des champs destinés à un service en aval ou produire des enregistrements lisibles par machine. Le comportement de raisonnement est utile pour les questions à plusieurs étapes où une étape intermédiaire améliore la réponse finale.
Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle liquid/lfm-3-1.7b:free, de sorte que les bibliothèques clientes OpenAI existantes et les formats de requête fonctionnent en changeant uniquement l'URL de base et le nom du modèle. Le modèle prend en charge un large ensemble de paramètres de requête : temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, max_tokens, max_completion_tokens, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning et include_reasoning. Les contrôles d'échantillonnage tels que temperature et top_p couvrent la génération ordinaire, tandis que tools et tool_choice pilotent l'appel de fonctions et que structured_outputs ou response_format contraignent la forme de la réponse. Les paramètres reasoning et include_reasoning concernent l'étape de raisonnement du modèle, et seed permet un échantillonnage reproductible.
La principale contrainte à garder à l'esprit est le plafond de sortie : les réponses sont limitées à 8 192 jetons même si la fenêtre de contexte est bien plus grande, de sorte que les tâches nécessitant des réponses uniques très longues peuvent exiger de répartir le travail sur plusieurs appels. Le modèle est également exclusivement textuel, il ne peut donc pas prendre en entrée des images ou de l'audio. Pour les charges de travail où un petit modèle textuel efficace avec appel d'outils et sorties structurées suffit, il constitue un choix raisonnable ; lorsque la tâche dépend d'autres modalités d'entrée ou d'un budget de sortie bien plus important, un autre modèle conviendra mieux.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_pCette communauté n’a encore aucun sujet. Ouvrez le premier sur LiquidAI: LFM3-1.7B (free).