ScaleDown: Classify-1

ScaleDown: Classify-1 is een gestructureerd beslissingsmodel van ScaleDown, aangeboden via de Decisions API van de provider. In plaats van vrije tekst te genereren, is het gebouwd om vragen te beantwoorden die u vooraf definieert, wat het in de categorie beslissingen plaatst in plaats van de categorie algemene chat. Als u modellen evalueert op api14, is de praktische vraag niet of het goed schrijft, maar of uw taak kan worden geformuleerd als een keuze, een ja/nee-vraag of een geordende schaal.

Het model accepteert tekst, afbeeldingen en bestanden als invoer, dus u kunt een tekstpassage, een gescande pagina of een document sturen en het direct laten beoordelen. De uitvoermodaliteit is beslissingen: het scoort de aangeleverde invoer tegen uw door de aanroeper gedefinieerde vragen en retourneert gekalibreerde waarschijnlijkheden. Het contextvenster is 1.000.000 tokens en de maximale uitvoer is 900.000, wat betekent dat lange documenten en grote batches materiaal in één verzoek kunnen worden verwerkt zonder opdelen. Er is geen vrije-tekstgeneratie om te parsen, dus u krijgt gestructureerde antwoorden in plaats van zinnen die u moet interpreteren.

Die vorm van uitvoer wijst op een vrij specifieke set toepassingen. Routering en triage passen van nature: beslissen bij welke wachtrij een ticket hoort, of of een inkomend bericht aan een ja/nee-voorwaarde voldoet voordat het een mens bereikt. Documentbeoordeling is een andere, aangezien bestanden en afbeeldingen worden geaccepteerd, dus classificatie van formulieren, facturen of gescande records tegen een vaste set categorieën is mogelijk. Vragen met een geordende schaal passen bij sentiment- of ernstbeoordeling, en omdat het model waarschijnlijkheden retourneert in plaats van één label, kunt u uw eigen betrouwbaarheidsdrempel instellen en gevallen met lage betrouwbaarheid elders naartoe sturen. Elke workflow waarin u een consistente, herhaalbare beoordeling over veel items nodig hebt, is een betere match dan een waarin u een uitgeschreven uitleg nodig hebt.

U roept het aan via de OpenAI-compatibele API van api14 met het model-id "scaledown/classify-1". Omdat de interface OpenAI-compatibel is, werken bestaande clients en SDK's met een wijziging van de base URL en het model-id. Let op: de lijst met ondersteunde parameters is leeg, dus u moet niet aannemen dat sampling-besturingen zoals temperature of top_p worden geaccepteerd; stuur het model-id, uw invoer en de vragen die u wilt laten scoren, en vertrouw op de standaardwaarden. Controleer de actuele prijstabel op deze pagina voor de huidige tarieven.

De belangrijkste beperking om af te wegen is het uitvoerformaat zelf. Classify-1 retourneert beslissingen, geen proza, dus als uw toepassing een geschreven samenvatting, een conversationeel antwoord of gegenereerde inhoud van welke aard dan ook nodig heeft, past een algemeen tekstmodel beter. Het is ook de moeite waard om te bevestigen dat uw vragen kunnen worden uitgedrukt als keuzes, ja/nee of een geordende schaal, aangezien dat de framing is waar het model omheen is ontworpen. Binnen die grenzen, en met een contextvenster dat zo groot is, is het een redelijke keuze voor classificatie met hoog volume waarbij u waarschijnlijkheden wilt waarop u kunt handelen in plaats van tekst die u moet parsen.