ScaleDown: Extract

ScaleDown: Extract est un modèle de texte de ScaleDown, conçu spécifiquement pour l'extraction d'entités guidée par une description. Plutôt que de vous obliger à choisir parmi un ensemble fixe de types d'entités, il vous permet de décrire les champs souhaités en langage naturel. Cela en fait un outil d'un genre différent d'un modèle de chat généraliste : son rôle est d'extraire des informations structurées de tout ce que vous lui fournissez, guidé par votre propre description des champs cibles.

Le modèle accepte du texte, des images et des fichiers en entrée, et renvoie du texte. Sa fenêtre de contexte est de 1 000 000 de tokens, et la sortie maximale est de 900 000 tokens. Cette combinaison d'une très grande fenêtre d'entrée et d'un plafond de sortie élevé signifie que vous pouvez lui soumettre de longs documents ou des médias mixtes et obtenir en retour un résultat extrait substantiel en un seul appel. La liste des paramètres pris en charge est délibérément courte : seul max_tokens est exposé, ce qui convient à un modèle dont le comportement est piloté principalement par la description des entités que vous fournissez plutôt que par un large éventail de réglages d'échantillonnage.

Les cas d'usage pratiques découlent directement de ces capacités. Si vous avez des contrats, des factures, des rapports ou des documents numérisés et que vous devez en extraire des champs précis, vous décrivez ces champs et laissez le modèle les trouver. Comme les images et les fichiers sont acceptés en plus du texte, le même appel peut couvrir un PDF, une capture d'écran ou un simple fichier texte sans pipeline distinct pour chaque format. Le contexte d'un million de tokens est utile lorsque les détails pertinents sont dispersés dans un long document et que vous préférez ne pas le découper vous-même. Le plafond de sortie élevé aide lorsque le résultat de l'extraction est lui-même long, par exemple une liste de nombreuses entités ou une structure de type tableau.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "scaledown/extract". Le seul paramètre de requête pris en charge est max_tokens, donc gardez la forme de votre requête simple et placez les descriptions de champs là où le fournisseur les attend, sous provider.options.scaledown.entities. Comme l'interface est compatible OpenAI, les clients et SDK existants fonctionnent généralement avec un changement d'identifiant de modèle et de point de terminaison, et vous pouvez définir max_tokens pour borner la longueur de la réponse selon votre charge de travail.

La surface restreinte des paramètres mérite d'être notée lorsque vous choisissez un modèle. Si votre tâche nécessite de la génération créative, une conversation multi-tours ou un contrôle fin du comportement d'échantillonnage, un modèle de texte généraliste conviendra mieux. Extract est destiné à une seule tâche, et il l'accomplit en lisant votre description des champs plutôt qu'en exposant de nombreuses options de réglage. Pour les tâches d'extraction où les champs sont plus faciles à décrire en mots qu'à exprimer sous forme de schéma, c'est un choix par défaut raisonnable à essayer en premier.