ScaleDown: Extract

ScaleDown: Extract é um modelo de texto da ScaleDown, criado especificamente para extração de entidades guiada por descrição. Em vez de te obrigar a escolher entre um conjunto fixo de tipos de entidades, ele permite que descrevas os campos que queres em linguagem natural. Isso faz dele um tipo diferente de ferramenta em relação a um modelo de chat geral: a sua função é extrair informação estruturada daquilo que lhe deres, guiado pela tua própria descrição dos campos alvo.

O modelo aceita texto, imagens e ficheiros como entrada, e devolve texto. A sua janela de contexto é de 1.000.000 de tokens, e a saída máxima é de 900.000 tokens. Essa combinação de uma janela de entrada muito grande e um limite de saída elevado significa que podes entregar-lhe documentos longos ou conteúdo multimédia misto e ainda obter um resultado extraído substancial numa única chamada. A lista de parâmetros suportados é deliberadamente curta: apenas max_tokens está exposto, o que se adequa a um modelo cujo comportamento é orientado principalmente pela descrição de entidades que forneces, e não por um conjunto amplo de opções de amostragem.

Os casos de uso práticos decorrem diretamente dessas capacidades. Se tens contratos, faturas, relatórios ou documentação digitalizada e precisas de extrair campos específicos, descreves esses campos e deixas o modelo encontrá-los. Como imagens e ficheiros são aceites juntamente com texto, a mesma chamada pode abranger um PDF, uma captura de ecrã ou um bloco de texto simples sem um pipeline separado para cada formato. O contexto de um milhão de tokens é útil quando os detalhes relevantes estão dispersos ao longo de um documento extenso e preferes não o dividir em partes. O limite de saída elevado ajuda quando o resultado da extração é ele próprio longo, como uma lista de muitas entidades ou uma estrutura semelhante a uma tabela.

Chamas o modelo através da API compatível com OpenAI da api14 usando o id de modelo "scaledown/extract". O único parâmetro de pedido suportado é max_tokens, por isso mantém a estrutura do teu pedido simples e coloca as descrições dos campos onde o fornecedor as espera, em provider.options.scaledown.entities. Como a interface é compatível com OpenAI, os clientes e SDKs existentes geralmente funcionam com uma mudança de id de modelo e endpoint, e podes definir max_tokens para limitar o comprimento da resposta para a tua carga de trabalho.

Vale a pena notar a superfície estreita de parâmetros quando estás a escolher um modelo. Se a tua tarefa precisa de geração criativa, conversa multi-turno ou controlo fino sobre o comportamento de amostragem, um modelo de texto de uso geral encaixará melhor. O Extract é direcionado para uma única tarefa, e faz essa tarefa lendo a tua descrição dos campos em vez de expor muitas opções de afinação. Para tarefas de extração em que os campos são mais fáceis de descrever por palavras do que de expressar como um esquema, é um valor predefinido razoável para experimentar primeiro.