ScaleDown: Extract

ScaleDown: Extract ist ein Textmodell von ScaleDown, das speziell für beschreibungsgesteuerte Entitätsextraktion entwickelt wurde. Statt Sie zu zwingen, aus einer festen Menge von Entitätstypen auszuwählen, können Sie die gewünschten Felder in einfachem Englisch beschreiben. Das macht es zu einer anderen Art von Werkzeug als ein allgemeines Chat-Modell: Seine Aufgabe ist es, strukturierte Informationen aus dem herauszuziehen, was Sie ihm geben, geleitet von Ihrer eigenen Beschreibung der Zielfelder.

Das Modell akzeptiert Text, Bilder und Dateien als Eingabe und gibt Text zurück. Sein Kontextfenster beträgt 1.000.000 Token, und die maximale Ausgabe beträgt 900.000 Token. Diese Kombination aus einem sehr großen Eingabefenster und einer großen Ausgabeobergrenze bedeutet, dass Sie ihm lange Dokumente oder gemischte Medien übergeben können und trotzdem ein substanzielles extrahiertes Ergebnis in einem einzigen Aufruf zurückbekommen. Die Liste der unterstützten Parameter ist bewusst kurz: Nur max_tokens wird bereitgestellt, was zu einem Modell passt, dessen Verhalten hauptsächlich durch die von Ihnen gelieferte Entitätsbeschreibung gesteuert wird und nicht durch eine breite Palette von Sampling-Reglern.

Praktische Anwendungsfälle ergeben sich direkt aus diesen Fähigkeiten. Wenn Sie Verträge, Rechnungen, Berichte oder gescannte Unterlagen haben und bestimmte Felder herausziehen müssen, beschreiben Sie diese Felder und lassen das Modell sie finden. Da Bilder und Dateien neben Text akzeptiert werden, kann derselbe Aufruf ein PDF, einen Screenshot oder einen reinen Textauszug abdecken, ohne eine separate Pipeline für jedes Format. Der Kontext von einer Million Token ist nützlich, wenn die relevanten Details über ein langes Dokument verstreut sind und Sie es lieber nicht selbst in Abschnitte aufteilen möchten. Die große Ausgabeobergrenze hilft, wenn das Extraktionsergebnis selbst lang ist, etwa eine Liste vieler Entitäten oder eine tabellenartige Struktur.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "scaledown/extract" auf. Der einzige unterstützte Anforderungsparameter ist max_tokens, halten Sie also die Form Ihrer Anfrage einfach und platzieren Sie die Feldbeschreibungen dort, wo der Anbieter sie erwartet, unter provider.options.scaledown.entities. Da die Schnittstelle OpenAI-kompatibel ist, funktionieren bestehende Clients und SDKs im Allgemeinen mit einer Änderung der Modell-ID und des Endpunkts, und Sie können max_tokens festlegen, um die Antwortlänge für Ihre Arbeitslast zu begrenzen.

Die schmale Parameteroberfläche ist erwähnenswert, wenn Sie ein Modell auswählen. Wenn Ihre Aufgabe kreative Generierung, mehrstufige Konversation oder feine Kontrolle über das Sampling-Verhalten erfordert, passt ein allgemeines Textmodell besser. Extract ist auf eine Aufgabe ausgerichtet, und es erledigt diese Aufgabe, indem es Ihre Beschreibung der Felder liest, statt viele Abstimmungsoptionen bereitzustellen. Für Extraktionsaufgaben, bei denen die Felder leichter in Worten zu beschreiben als als Schema auszudrücken sind, ist es eine vernünftige Standardwahl, die Sie zuerst versuchen sollten.