Inception: Mercury Decide

Inception : Mercury Decide est un modèle de décision structuré d'Inception. Plutôt qu'un modèle de chat à usage général, il est construit autour d'une tâche spécifique : prendre un état que vous fournissez avec des questions typées et renvoyer une décision. Il est servi comme point de terminaison System One, ce qui décrit le style d'inférence qu'Inception utilise pour ce modèle. Si votre application a besoin d'une réponse sous forme de choix, de score ou de oui/non plutôt que d'un paragraphe de prose, c'est la catégorie de modèle à laquelle il appartient.

Du côté de l'entrée, Mercury Decide accepte du texte. L'état que vous envoyez et les questions que vous y attachez sont tous deux du texte, et les questions sont typées, ce qui signifie que chaque question porte une forme de réponse attendue. La sortie est une décision plutôt qu'un texte libre, correspondant aux questions typées que vous fournissez. La fenêtre de contexte est de 65 536 jetons, et la sortie maximale est de 58 982 jetons, donc de longs états et de nombreuses questions peuvent tenir dans une seule requête.

Les usages pratiques découlent directement de cette forme. Partout où vous écririez autrement une logique de règles ou un classifieur pour choisir entre des options, noter un élément ou répondre à une question oui/non sur un corps de texte, Mercury Decide peut produire cette décision à partir d'un état que vous décrivez dans la requête. Les exemples incluent des décisions de routage ou de triage, des étapes de filtrage dans un pipeline où un résultat booléen suffit, et la notation de candidats selon des critères. Comme la sortie est déjà une décision, vous évitez d'analyser du texte libre et pouvez transmettre le résultat directement à l'étape suivante de votre système.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "inception/mercury-decide". Comme l'API est compatible OpenAI, les bibliothèques clientes et les outils OpenAI existants fonctionnent avec un simple changement d'URL de base. Notez que ce modèle ne liste aucun paramètre pris en charge, donc ne comptez pas sur l'acceptation de contrôles d'échantillonnage tels que temperature ou top_p ; envoyez l'état et les questions typées dans la requête et lisez la décision dans la réponse. Consultez le tableau des prix en direct sur cette page pour les tarifs actuels.

Un point à peser avant de l'adopter : le modèle prend du texte en entrée et produit des décisions en sortie. Il ne convient pas lorsque vous avez besoin de prose générée, de résumés, de traductions ou d'autres textes libres, et il n'est pas multimodal, donc les images, l'audio et les entrées similaires sont hors de portée. Si votre tâche consiste à produire du contenu écrit plutôt qu'à résoudre une question typée, un modèle de génération de texte général vous servira mieux.