Microsoft: Microsoft-Decision-1

Microsoft-Decision-1 est un modèle de Microsoft, listé sur api14 sous l'identifiant de modèle microsoft/microsoft-decision-1. Il se situe dans la catégorie decisions plutôt que dans la catégorie générale chat, ce qui reflète ce pour quoi il a été conçu : prendre des décisions rapides plutôt que tenir une conversation. Microsoft le décrit comme un petit modèle, il est donc destiné aux charges de travail où une réponse rapide compte plus qu'une génération longue.

Le modèle prend du texte comme seule entrée et renvoie des décisions comme sortie. Il ne rédige pas de prose. À la place, il lit le contenu que vous fournissez et renvoie une probabilité calibrée pour chaque option de réponse fixe que vous lui donnez. Cela signifie que vous définissez les réponses possibles, et le modèle les note plutôt que d'en choisir une en texte libre. La fenêtre de contexte est de 32768 tokens, et la sortie maximale est de 29491 tokens. Aucun paramètre de requête n'est listé comme pris en charge pour ce modèle.

Comme la sortie est une probabilité par option, les cas d'usage naturels sont les tâches de classification et de routage. Vous pouvez l'utiliser pour trier un texte entrant dans l'une de plusieurs étiquettes connues, pour décider quelle file ou quel gestionnaire doit traiter une requête, ou pour noter des réponses candidates lorsque vous avez besoin d'une valeur de confiance plutôt que d'un choix unique et définitif. Partout où vous demanderiez autrement à un modèle de chat de répondre par un mot issu d'un ensemble fixe, ce modèle vous donne la même décision avec une probabilité calibrée associée, ce qui est utile lorsque la logique en aval doit agir selon le degré de confiance du modèle.

L'appeler via api14 fonctionne de la même manière que pour tout autre modèle sur la passerelle, en utilisant l'API compatible OpenAI avec l'identifiant de modèle microsoft/microsoft-decision-1. Vous envoyez votre contenu et vos options de réponse fixes dans la requête, et vous recevez les probabilités en retour. Comme aucun paramètre de requête n'est listé comme pris en charge, prévoyez la forme de requête de base et évitez de compter sur des réglages optionnels tels que temperature ou top_p pour modifier le comportement. Consultez le tableau des prix en direct sur la page pour les tarifs actuels.

Les principales limites découlent de la conception. L'entrée est uniquement du texte, donc les images, l'audio et les autres modalités sont hors périmètre. La sortie est constituée de décisions, pas de prose, donc si vous avez besoin d'une explication, d'un résumé ou d'un document généré, un modèle de génération de texte est plus adapté. La fenêtre de contexte de 32768 tokens plafonne également la quantité de contenu que vous pouvez fournir par appel. Dans ces limites, c'est un outil ciblé pour transformer rapidement du texte en choix notés.