ScaleDown: Classify-1

ScaleDown: Classify-1 è un modello decisionale strutturato di ScaleDown, servito tramite l'API Decisions del provider. Invece di generare prosa libera, è progettato per rispondere a domande che definisci in anticipo, il che lo colloca nella categoria delle decisioni anziché in quella delle chat generiche. Se stai valutando modelli su api14, la domanda pratica non è se scrive bene, ma se il tuo compito può essere inquadrato come una scelta, una domanda sì/no o una scala ordinata.

Il modello accetta testo, immagini e file come input, quindi puoi inviare un brano di testo, una pagina scansionata o un documento e farlo valutare direttamente. La sua modalità di output è costituita da decisioni: valuta l'input fornito rispetto alle domande definite dal chiamante e restituisce probabilità calibrate. La finestra di contesto è di 1.000.000 di token, e l'output massimo è di 900.000, il che significa che documenti lunghi e grandi lotti di materiale possono essere gestiti in una singola richiesta senza suddivisione in blocchi. Non c'è generazione di testo libero da analizzare, quindi ottieni risposte strutturate anziché frasi che devi interpretare.

Questa forma di output indica un insieme di utilizzi piuttosto specifico. L'instradamento e il triage sono applicazioni naturali: decidere a quale coda appartiene un ticket, o se un messaggio in arrivo soddisfa una condizione sì/no prima di raggiungere una persona. La revisione dei documenti è un'altra, dato che file e immagini sono accettati, quindi è possibile classificare moduli, fatture o registrazioni scansionate rispetto a un insieme fisso di categorie. Le domande su scala ordinata si adattano alla valutazione del sentiment o della gravità, e poiché il modello restituisce probabilità anziché una singola etichetta, puoi impostare la tua soglia di confidenza e inviare altrove i casi a bassa confidenza. Qualsiasi flusso di lavoro in cui hai bisogno di un giudizio coerente e ripetibile su molti elementi è più adatto rispetto a uno in cui hai bisogno di una spiegazione scritta.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello "scaledown/classify-1". Poiché l'interfaccia è compatibile con OpenAI, i client e gli SDK esistenti funzionano con un cambio di URL di base e id del modello. Nota che l'elenco dei parametri supportati è vuoto, quindi non dovresti presumere che controlli di campionamento come temperature o top_p siano accettati; invia l'id del modello, il tuo input e le domande che vuoi valutare, e affidati ai valori predefiniti. Controlla la tabella dei prezzi aggiornata su questa pagina per le tariffe correnti.

La principale limitazione da considerare è il formato di output stesso. Classify-1 restituisce decisioni, non prosa, quindi se la tua applicazione necessita di un riepilogo scritto, una risposta conversazionale o contenuto generato di qualsiasi tipo, un modello di testo generale sarà più adatto. Vale anche la pena confermare che le tue domande possano essere espresse come scelte, sì/no o una scala ordinata, poiché è questa l'impostazione attorno a cui il modello è progettato. Entro questi limiti, e con una finestra di contesto così ampia, è una scelta ragionevole per la classificazione ad alto volume in cui desideri probabilità su cui agire anziché testo da analizzare.