Inference.net: Schematron V2 Small

Inference.net: Schematron V2 Small es un modelo de texto de Inference.net. Es un modelo de extracción de HTML a JSON de 3B parámetros, y el proveedor lo describe como centrado en priorizar la calidad de extracción para esquemas complejos y páginas largas. Se sitúa en la categoría de texto, por lo que está orientado a trabajo de procesamiento de lenguaje y documentos en lugar de imágenes, audio u otras modalidades.

El modelo toma texto como entrada y devuelve texto como salida. Su ventana de contexto es de 128.000 tokens, que es lo que le permite procesar páginas largas en una sola solicitud, y su salida máxima es de 4.096 tokens. El proveedor señala que las instrucciones de extracción deben proporcionarse mediante un esquema JSON, por lo que el esquema es el mecanismo que indica al modelo qué extraer del HTML y cómo dar forma al resultado.

Esas características apuntan a un conjunto de usos bastante específico. El más obvio es convertir páginas HTML en JSON estructurado, por ejemplo extrayendo detalles de productos, listados, metadatos de artículos u otros campos repetidos de páginas que varían en diseño. Como el modelo está construido para esquemas complejos, encaja en casos donde la estructura objetivo tiene objetos anidados o muchos campos en lugar de un par de valores planos. El contexto largo ayuda cuando el contenido relevante está enterrado muy abajo en una página o cuando una sola página contiene muchos registros que extraer. Es un modelo de texto de entrada y texto de salida, por lo que encaja en canalizaciones donde el HTML se obtiene en otro lugar y se entrega al modelo para su análisis.

Se llama a través de la API compatible con OpenAI de api14 usando el id de modelo "inference-net/schematron-v2-small". Los parámetros de solicitud que admite son frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k y top_p. Para el trabajo de extracción, response_format y structured_outputs son los parámetros más directamente relevantes para obtener JSON de vuelta con la forma solicitada, mientras que seed ayuda cuando se desean resultados repetibles entre ejecuciones. Los controles de muestreo como temperature, top_p, top_k y min_p permiten intercambiar variación por consistencia, y max_tokens limita la longitud del JSON devuelto.

Tenga en cuenta el límite de salida: 4.096 tokens es el techo de una sola respuesta, por lo que los trabajos de extracción muy grandes pueden necesitar dividirse en varias llamadas aunque el lado de entrada pueda contener 128.000 tokens. El modelo también es solo de texto, por lo que las páginas que dependen de imágenes o diseño renderizado deberán procesarse antes de llegar a él. Si su tarea es chat general, razonamiento o generación en lugar de extracción basada en esquemas desde HTML, es probable que un modelo de texto de propósito general sea una opción más adecuada.