ScaleDown: Extract

ScaleDown: Extract è un modello testuale di ScaleDown, creato specificamente per l'estrazione di entità guidata da descrizioni. Invece di obbligarti a scegliere da un insieme fisso di tipi di entità, ti permette di descrivere in linguaggio naturale i campi che desideri. Questo lo rende un tipo di strumento diverso da un modello di chat generico: il suo compito è estrarre informazioni strutturate da qualunque cosa tu gli fornisca, guidato dalla tua descrizione dei campi target.

Il modello accetta testo, immagini e file come input, e restituisce testo. La sua finestra di contesto è di 1.000.000 di token, e l'output massimo è di 900.000 token. Questa combinazione di una finestra di input molto ampia e un tetto di output elevato significa che puoi fornirgli documenti lunghi o media misti e ottenere comunque un risultato estratto sostanzioso in una singola chiamata. La lista dei parametri supportati è deliberatamente breve: è esposto solo max_tokens, il che si adatta a un modello il cui comportamento è guidato principalmente dalla descrizione delle entità che fornisci, piuttosto che da un'ampia serie di parametri di campionamento.

I casi d'uso pratici derivano direttamente da queste capacità. Se hai contratti, fatture, report o documenti scansionati e devi estrarre campi specifici, descrivi quei campi e lascia che il modello li trovi. Poiché immagini e file sono accettati insieme al testo, la stessa chiamata può coprire un PDF, uno screenshot o un semplice dump testuale senza una pipeline separata per ogni formato. Il contesto da un milione di token è utile quando i dettagli rilevanti sono sparsi in un documento lungo e preferisci non suddividerlo tu stesso. Il tetto di output elevato aiuta quando il risultato dell'estrazione è esso stesso lungo, come una lista di molte entità o una struttura simile a una tabella.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello "scaledown/extract". L'unico parametro di richiesta supportato è max_tokens, quindi mantieni la forma della tua richiesta semplice e inserisci le descrizioni dei campi dove il provider se le aspetta, sotto provider.options.scaledown.entities. Poiché l'interfaccia è compatibile con OpenAI, i client e gli SDK esistenti generalmente funzionano con un cambio di id del modello e endpoint, e puoi impostare max_tokens per limitare la lunghezza della risposta per il tuo carico di lavoro.

La superficie ristretta dei parametri vale la pena di essere notata quando scegli un modello. Se il tuo compito richiede generazione creativa, conversazione multi-turno o controllo fine sul comportamento di campionamento, un modello testuale generico si adatterà meglio. Extract è mirato a un solo compito, e svolge quel compito leggendo la tua descrizione dei campi piuttosto che esponendo molte opzioni di regolazione. Per compiti di estrazione in cui i campi sono più facili da descrivere a parole che da esprimere come schema, è un default ragionevole da provare per primo.