ScaleDown: Extract

ScaleDown: Extract is een tekstmodel van ScaleDown, speciaal gebouwd voor beschrijvingsgestuurde entiteitsextractie. In plaats van je te dwingen te kiezen uit een vaste set entiteitstypen, laat het je de velden die je wilt in gewoon Nederlands beschrijven. Dat maakt het een ander soort hulpmiddel dan een algemeen chatmodel: zijn taak is om gestructureerde informatie te halen uit wat je ook geeft, gestuurd door jouw eigen beschrijving van de doelvelden.

Het model accepteert tekst, afbeeldingen en bestanden als invoer, en retourneert tekst. Het contextvenster is 1.000.000 tokens, en de maximale uitvoer is 900.000 tokens. Die combinatie van een zeer groot invoervenster en een hoog uitvoerplafond betekent dat je lange documenten of gemengde media kunt aanleveren en nog steeds een substantieel geëxtraheerd resultaat terugkrijgt in één aanroep. De lijst met ondersteunde parameters is bewust kort: alleen max_tokens is beschikbaar, wat past bij een model waarvan het gedrag vooral wordt gestuurd door de entiteitsbeschrijving die je aanlevert, in plaats van door een breed scala aan sampling-knoppen.

Praktische gebruikssituaties volgen direct uit die mogelijkheden. Als je contracten, facturen, rapporten of gescande paperassen hebt en specifieke velden eruit wilt halen, beschrijf je die velden en laat je het model ze vinden. Omdat afbeeldingen en bestanden naast tekst worden geaccepteerd, kan dezelfde aanroep een PDF, een schermafbeelding of een platte tekstdump verwerken zonder een aparte pipeline voor elk formaat. De context van een miljoen tokens is nuttig wanneer de relevante details verspreid zijn over een lang document en je het liever niet zelf in stukken hakt. Het hoge uitvoerplafond helpt wanneer het extractieresultaat zelf lang is, zoals een lijst van veel entiteiten of een tabelachtig geheel.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id "scaledown/extract". De enige ondersteunde aanvraagparameter is max_tokens, dus houd de vorm van je aanvraag eenvoudig en zet de veldbeschrijvingen waar de provider ze verwacht, onder provider.options.scaledown.entities. Omdat de interface OpenAI-compatibel is, werken bestaande clients en SDK's over het algemeen met een wijziging van model-id en endpoint, en kun je max_tokens instellen om de responslengte voor jouw workload te begrenzen.

Het beperkte aantal parameters is het vermelden waard wanneer je een model kiest. Als je taak creatieve generatie, meerbeurtengesprekken of fijne controle over sampling-gedrag vereist, past een algemeen tekstmodel beter. Extract is gericht op één taak, en het doet die taak door jouw beschrijving van de velden te lezen in plaats van veel afstemmingsopties beschikbaar te stellen. Voor extractietaken waarbij de velden makkelijker in woorden te beschrijven zijn dan als schema uit te drukken, is het een redelijke standaard om eerst te proberen.