LiquidAI: LFM2.5-24B-A2B

LiquidAI : LFM2.5-24B-A2B est un modèle texte de LiquidAI. C'est un modèle de raisonnement de type mélange d'experts avec 24B de paramètres au total et 2,45B de paramètres actifs. Le fournisseur le décrit comme raisonnant toujours avant de répondre, et comme conçu pour des agents qui appellent des outils. Il appartient à la catégorie texte, donc il prend du texte en entrée et renvoie du texte en sortie.

Le modèle accepte une entrée texte et produit une sortie texte, avec une fenêtre de contexte de 128 000 tokens et une sortie maximale de 8 192 tokens. Comme c'est un modèle de raisonnement, il déroule son raisonnement avant de produire une réponse, et les paramètres include_reasoning et reasoning vous permettent de contrôler la façon dont ce raisonnement est traité dans la réponse. Il prend également en charge l'usage d'outils via les paramètres tools et tool_choice, ainsi que les sorties structurées et response_format pour contraindre la forme de la sortie. Le comportement d'échantillonnage peut être ajusté avec temperature, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed et stop, et logprobs avec top_logprobs sont disponibles si vous avez besoin de probabilités au niveau des tokens.

Ces capacités renvoient à quelques usages pratiques. Les agents appelant des outils sont le cas le plus évident, puisque le modèle est conçu pour raisonner puis invoquer des outils, ce qui convient aux flux de travail qui doivent rechercher des informations, appeler des fonctions ou enchaîner des étapes. Les sorties structurées en font un choix raisonnable pour extraire des champs de documents ou renvoyer des résultats lisibles par machine qui alimentent un autre système. La fenêtre de contexte de 128 000 tokens prend en charge des entrées longues comme de gros documents, de longs historiques de conversation ou des fichiers de code volumineux, et l'étape de raisonnement aide sur les tâches qui bénéficient d'un travail préalable sur le problème avant de répondre, comme l'analyse en plusieurs étapes ou la planification.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "liquid/lfm-2.5-24b-a2b". Les requêtes suivent le format des chat completions d'OpenAI, donc les SDK et clients OpenAI existants fonctionnent avec un changement d'URL de base et d'identifiant de modèle. Les paramètres de requête pris en charge sont frequency_penalty, include_reasoning, logprobs, max_completion_tokens, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k et top_logprobs.

Gardez le plafond de sortie à l'esprit : les réponses sont limitées à 8 192 tokens, donc les tâches qui nécessitent une seule réponse très longue peuvent demander de répartir le travail sur plusieurs appels. Le modèle est uniquement texte, donc si votre entrée contient des images ou de l'audio, vous aurez besoin d'un autre modèle. Pour de la génération de texte simple et à fort volume, où le raisonnement et les appels d'outils n'apportent rien, un modèle plus simple peut être moins cher et plus rapide, mais pour les travaux de type agent et d'extraction structurée, l'ensemble de fonctionnalités de ce modèle est bien adapté.