LiquidAI: d1-ultra

LiquidAI : d1-ultra est un modèle de LiquidAI, et c'est le plus grand modèle de décision proposé par le fournisseur. Il se situe dans la catégorie decisions plutôt que dans la catégorie general chat, ce qui indique à quoi il sert : au lieu de produire de la prose conversationnelle, il est conçu pour renvoyer un choix. Il est servi comme endpoint System One, vous devez donc le considérer comme un composant que vous appelez pour prendre une décision au sein d'un système plus large, et non comme un assistant avec lequel vous dialoguez.

Le modèle accepte du texte et des images en entrée, et sa modalité de sortie est decisions. Vous envoyez un état composé de texte et d'images ainsi que des questions typées, et il renvoie un choix. La fenêtre de contexte est de 32 768 tokens, et la sortie maximale est de 29 491 tokens. Comme les entrées sont des questions typées sur un état, le modèle est conçu autour d'appels structurés plutôt que d'un prompt ouvert, et les images que vous incluez font partie de l'état à partir duquel la décision est prise.

Les usages pratiques découlent de cette forme. Partout où vous avez une situation pouvant être décrite en texte et en images et un ensemble de réponses candidates, d1-ultra peut en choisir une. Cela couvre les tâches de classification et de routage, le triage des demandes ou des tickets entrants, la sélection d'une action parmi un ensemble fixe d'options, et l'évaluation d'entrées visuelles telles que des captures d'écran ou des photos par rapport à une question que vous fournissez. Il convient aussi aux pipelines où une étape ultérieure a besoin d'une décision unique plutôt que d'un paragraphe d'explication, puisque la sortie est une décision et non du texte libre.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "liquid/d1-ultra". Comme l'endpoint suit le format de requête OpenAI, vous pouvez utiliser vos bibliothèques client OpenAI existantes et les pointer vers api14. Le modèle ne liste aucun paramètre pris en charge, prévoyez donc d'envoyer l'identifiant de modèle et votre entrée, et ne comptez pas sur l'acceptation de contrôles d'échantillonnage tels que temperature ou top_p. Consultez le tableau des prix en direct sur cette page pour connaître les tarifs actuels avant de vous engager dans un pipeline à fort volume.

Une limite à garder en tête est la fenêtre de contexte de 32 768 tokens, qui doit contenir à la fois votre texte et les images que vous incluez, donc les états très volumineux devront être réduits ou découpés. La sortie est une décision, donc si vous avez besoin de prose générée, de résumés ou d'explications, un modèle de génération de texte conviendra mieux. Il n'y a également aucune surface de paramètres à régler, donc si votre application dépend du contrôle de l'aléatoire ou de la longueur via des paramètres de requête, ce modèle ne vous offrira pas ce levier.