ScaleDown: Classify-1

ScaleDown: Classify-1 ist ein strukturiertes Entscheidungsmodell von ScaleDown, das über die Decisions API des Anbieters bereitgestellt wird. Statt frei formulierten Text zu generieren, ist es darauf ausgelegt, Fragen zu beantworten, die Sie im Voraus festlegen, was es in die Kategorie der Entscheidungen statt in die allgemeine Chat-Kategorie einordnet. Wenn Sie Modelle auf api14 bewerten, ist die praktische Frage nicht, ob es gut schreibt, sondern ob Ihre Aufgabe als Auswahl, als Ja/Nein-Frage oder als geordnete Skala formuliert werden kann.

Das Modell akzeptiert Text, Bilder und Dateien als Eingabe, sodass Sie eine Textpassage, eine gescannte Seite oder ein Dokument senden und direkt bewerten lassen können. Seine Ausgabemodalität sind Entscheidungen: Es bewertet die bereitgestellte Eingabe anhand Ihrer vom Aufrufer definierten Fragen und gibt kalibrierte Wahrscheinlichkeiten zurück. Das Kontextfenster beträgt 1.000.000 Token, und die maximale Ausgabe beträgt 900.000, was bedeutet, dass lange Dokumente und große Mengen an Material in einer einzigen Anfrage ohne Aufteilung verarbeitet werden können. Es gibt keine Freitextgenerierung zum Parsen, sodass Sie strukturierte Antworten erhalten statt Sätze, die Sie interpretieren müssen.

Diese Form der Ausgabe deutet auf eine ziemlich spezifische Gruppe von Anwendungsfällen hin. Routing und Triage passen naturel: zu entscheiden, zu welcher Warteschlange ein Ticket gehört, oder ob eine eingehende Nachricht eine Ja/Nein-Bedingung erfüllt, bevor sie einen Menschen erreicht. Dokumentenprüfung ist ein weiterer Bereich, da Dateien und Bilder akzeptiert werden, sodass die Klassifizierung von Formularen, Rechnungen oder gescannten Aufzeichnungen anhand einer festen Kategorienmenge möglich ist. Fragen mit geordneter Skala eignen sich für Sentiment- oder Schweregradbewertungen, und da das Modell Wahrscheinlichkeiten statt eines einzelnen Labels zurückgibt, können Sie Ihren eigenen Konfidenzschwellenwert festlegen und Fälle mit geringer Konfidenz woandershin senden. Jeder Workflow, in dem Sie ein konsistentes, wiederholbares Urteil über viele Elemente benötigen, passt besser als einer, in dem Sie eine ausgeschriebene Erklärung benötigen.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "scaledown/classify-1" auf. Da die Schnittstelle OpenAI-kompatibel ist, funktionieren bestehende Clients und SDKs mit einer Änderung der Basis-URL und der Modell-ID. Beachten Sie, dass die Liste der unterstützten Parameter leer ist, sodass Sie nicht davon ausgehen sollten, dass Sampling-Steuerungen wie temperature oder top_p akzeptiert werden; senden Sie die Modell-ID, Ihre Eingabe und die Fragen, die bewertet werden sollen, und verlassen Sie sich auf die Standardwerte. Prüfen Sie die aktuelle Preistabelle auf dieser Seite für die aktuellen Tarife.

Die wichtigste Einschränkung, die es abzuwägen gilt, ist das Ausgabeformat selbst. Classify-1 gibt Entscheidungen zurück, keinen Text, wenn Ihre Anwendung also eine schriftliche Zusammenfassung, eine dialogorientierte Antwort oder generierte Inhalte jeglicher Art benötigt, passt ein allgemeines Textmodell besser. Es ist auch ratsam, zu bestätigen, dass Ihre Fragen als Auswahl, Ja/Nein oder geordnete Skala ausgedrückt werden können, da dies der Rahmen ist, um den das Modell herum entworfen wurde. Innerhalb dieser Grenzen und mit einem so großen Kontextfenster ist es eine vernünftige Wahl für Klassifizierung mit hohem Volumen, bei der Sie Wahrscheinlichkeiten wünschen, auf die Sie reagieren können, statt Text, den Sie parsen müssen.