Inference.net: Schematron V2 Turbo

Schematron V2 Turbo to model tekstowy od Inference.net, wymieniony na api14 pod identyfikatorem modelu inference-net/schematron-v2-turbo. Jest to model ekstrakcji HTML-do-JSON o 3 miliardach parametrów, a Inference.net pozycjonuje go jako opcję nastawioną na przepustowość dla zadań ekstrakcji o dużym wolumenie. Data wydania przez dostawcę to 2026-09-12. Jeśli budujesz potok, który zamienia strony internetowe lub fragmenty HTML na rekordy strukturalne, to właśnie do tej rodziny modeli należy.

Model przyjmuje tekst jako dane wejściowe i zwraca tekst jako dane wyjściowe, z oknem kontekstu wynoszącym 128 000 tokenów i maksymalnym wyjściem 8 192 tokenów. Jego cechą definiującą jest to, że instrukcje ekstrakcji muszą być dostarczone przez schemat JSON w response_format, a nie w dowolnej prozie. To ograniczenie kształtuje sposób tworzenia promptów: zamiast opisywać żądane pola w języku naturalnym, deklarujesz je jako schemat, a model wypełnia ten schemat na podstawie dostarczonego HTML. Duże okno kontekstu oznacza, że możesz przekazać obszerne dokumenty w jednym żądaniu, natomiast limit wyjścia 8 192 tokenów ogranicza ilość danych strukturalnych, które jedno wywołanie może zwrócić.

Praktyczne przypadki użycia wynikają bezpośrednio z tego projektu. Ekstrakcja HTML-do-JSON o dużym wolumenie jest głównym z nich: scrapowanie list produktów, parsowanie faktur lub paragonów renderowanych jako znaczniki, wyciąganie pól ze stron z listami lub normalizowanie dokumentów częściowo strukturalnych do rekordów, które Twoja aplikacja może przechowywać. Ponieważ model jest mały i dostrojony pod przepustowość, nadaje się do zadań wsadowych, w których uruchamiasz ten sam schemat na tysiącach stron i bardziej zależy Ci na spójnym, zgodnym ze schematem wyjściu niż na otwartym rozumowaniu. Jest to model tylko tekstowy, więc nie przyjmuje obrazów ani dźwięku i nie generuje niczego poza tekstem.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu inference-net/schematron-v2-turbo. Ponieważ interfejs jest zgodny z OpenAI, istniejące zestawy SDK i klienty OpenAI działają po zmianie bazowego adresu URL i identyfikatora modelu. Obsługiwane parametry żądania to frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k oraz top_p. W praktyce będziesz opierać się na response_format i structured_outputs, aby przekazać schemat JSON, na max_tokens, aby ograniczyć zwracany rekord, oraz na seed lub temperature, gdy chcesz uzyskać powtarzalną ekstrakcję w ramach partii.

Główną rzeczą, którą trzeba zaplanować, jest wymóg schematu. Jeśli Twoje zadanie polega na otwartym generowaniu, streszczaniu lub rozumowaniu konwersacyjnym, a nie na ekstrakcji do ustalonego kształtu, lepiej pasować będzie model tekstowy ogólnego przeznaczenia. Podobnie, jeśli potrzebujesz danych wejściowych w postaci obrazu lub dźwięku, ten model tego nie obsługuje. Jednak w swojej zamierzonej niszy połączenie okna kontekstu 128 000 tokenów, limitu wyjścia 8 192 tokenów i wyjścia sterowanego schematem czyni go rozsądnym wyborem dla zadań HTML-do-JSON na dużą skalę, tam gdzie liczy się przepustowość.