Inference.net: Schematron V2 Turbo

Schematron V2 Turbo는 Inference.net의 텍스트 모델로, api14에 모델 id inference-net/schematron-v2-turbo로 등록되어 있습니다. 3B 파라미터의 HTML-to-JSON 추출 모델이며, Inference.net은 이를 대량 추출 워크로드를 위한 처리량 우선 옵션으로 포지셔닝합니다. 제공자 출시일은 2026-09-12입니다. 웹 페이지나 HTML 조각을 구조화된 레코드로 변환하는 파이프라인을 구축한다면, 이 모델이 속한 모델 패밀리입니다.

이 모델은 텍스트를 입력으로 받고 텍스트를 출력으로 반환하며, 컨텍스트 윈도우는 128,000 토큰이고 최대 출력은 8,192 토큰입니다. 이 모델의 특징적인 동작은 추출 지시사항을 자유 형식의 산문이 아니라 response_format의 JSON 스키마를 통해 제공해야 한다는 점입니다. 이 제약은 프롬프트를 작성하는 방식을 규정합니다. 원하는 필드를 자연어로 설명하는 대신 스키마로 선언하면, 모델이 주어진 HTML에서 해당 스키마를 채웁니다. 큰 컨텍스트 윈도우 덕분에 단일 요청에 상당한 분량의 문서를 전달할 수 있으며, 8,192 토큰의 출력 상한은 한 번의 호출이 반환할 수 있는 구조화된 데이터의 양을 제한합니다.

실용적인 사용 사례는 이러한 설계에서 직접 따라옵니다. 대량 HTML-to-JSON 추출이 주요 용도입니다. 제품 목록 스크래핑, 마크업으로 렌더링된 인보이스나 영수증 파싱, 목록 페이지에서 필드 추출, 반구조화된 문서를 애플리케이션이 저장할 수 있는 레코드로 정규화하는 작업 등이 여기에 해당합니다. 이 모델은 작고 처리량에 맞게 튜닝되어 있으므로, 동일한 스키마를 수천 페이지에 실행하고 개방형 추론보다 일관되고 스키마를 준수하는 출력을 더 중시하는 배치 작업에 적합합니다. 텍스트 전용 모델이므로 이미지나 오디오를 받지 않으며, 텍스트 외에는 아무것도 생성하지 않습니다.

모델 id inference-net/schematron-v2-turbo를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 인터페이스가 OpenAI 호환이므로 기존 OpenAI SDK와 클라이언트는 base URL과 모델 id만 바꾸면 작동합니다. 지원되는 요청 파라미터는 frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k, top_p입니다. 실제로는 JSON 스키마를 전달하기 위해 response_format과 structured_outputs에 의존하고, 반환되는 레코드를 제한하기 위해 max_tokens를, 배치 전체에서 재현 가능한 추출을 원할 때 seed나 temperature를 사용하게 됩니다.

계획할 때 가장 중요한 것은 스키마 요구사항입니다. 작업이 고정된 형태로의 추출이 아니라 개방형 생성, 요약, 대화형 추론이라면 범용 텍스트 모델이 더 잘 맞습니다. 마찬가지로 이미지나 오디오 입력이 필요하다면 이 모델은 이를 지원하지 않습니다. 다만 의도된 영역 내에서는 128,000 토큰 컨텍스트 윈도우, 8,192 토큰 출력 제한, 스키마 기반 출력의 조합 덕분에 처리량이 중요한 대규모 HTML-to-JSON 작업에 합리적인 선택이 됩니다.