ScaleDown: Classify-1

ScaleDown : Classify-1 est un modèle de décision structuré de ScaleDown, servi via l'API Decisions du fournisseur. Plutôt que de générer de la prose libre, il est conçu pour répondre à des questions que vous définissez à l'avance, ce qui le place dans la catégorie des décisions plutôt que dans celle du chat général. Si vous évaluez des modèles sur api14, la question pratique n'est pas de savoir s'il écrit bien, mais si votre tâche peut être formulée comme un choix, une question oui/non ou une échelle ordonnée.

Le modèle accepte du texte, des images et des fichiers en entrée, vous pouvez donc envoyer un passage de texte, une page numérisée ou un document et le faire évaluer directement. Sa modalité de sortie est constituée de décisions : il note l'entrée fournie par rapport à vos questions définies par l'appelant et renvoie des probabilités calibrées. La fenêtre de contexte est de 1 000 000 de tokens, et la sortie maximale est de 900 000, ce qui signifie que de longs documents et de grands lots de matériel peuvent être traités en une seule requête sans découpage. Il n'y a pas de génération de texte libre à analyser, vous obtenez donc des réponses structurées plutôt que des phrases que vous devez interpréter.

Cette forme de sortie indique un ensemble d'usages assez spécifique. Le routage et le triage sont des applications naturelles : décider à quelle file appartient un ticket, ou si un message entrant remplit une condition oui/non avant d'atteindre un humain. La revue de documents en est une autre, puisque les fichiers et les images sont acceptés, la classification de formulaires, de factures ou de dossiers numérisés selon un ensemble fixe de catégories est donc possible. Les questions à échelle ordonnée conviennent à l'évaluation du sentiment ou de la gravité, et comme le modèle renvoie des probabilités plutôt qu'une seule étiquette, vous pouvez définir votre propre seuil de confiance et envoyer les cas à faible confiance ailleurs. Tout flux de travail où vous avez besoin d'un jugement cohérent et reproductible sur de nombreux éléments correspond mieux qu'un flux où vous avez besoin d'une explication rédigée.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "scaledown/classify-1". Comme l'interface est compatible OpenAI, les clients et SDK existants fonctionnent avec un changement d'URL de base et d'identifiant de modèle. Notez que la liste des paramètres pris en charge est vide, vous ne devez donc pas supposer que des contrôles d'échantillonnage tels que temperature ou top_p sont acceptés ; envoyez l'identifiant de modèle, votre entrée et les questions que vous souhaitez évaluer, et fiez-vous aux valeurs par défaut. Consultez le tableau des prix en direct sur cette page pour les tarifs actuels.

La principale limitation à prendre en compte est le format de sortie lui-même. Classify-1 renvoie des décisions, pas de la prose, donc si votre application a besoin d'un résumé écrit, d'une réponse conversationnelle ou de contenu généré de quelque nature que ce soit, un modèle de texte général conviendra mieux. Il vaut également la peine de confirmer que vos questions peuvent être exprimées sous forme de choix, de oui/non ou d'échelle ordonnée, car c'est le cadre autour duquel le modèle est conçu. Dans ces limites, et avec une fenêtre de contexte aussi grande, c'est un choix raisonnable pour la classification à grand volume lorsque vous voulez des probabilités exploitables plutôt que du texte à analyser.