Inference.net: Schematron V2 Small

Inference.net: Schematron V2 Small adalah model teks dari Inference.net. Ini adalah model ekstraksi HTML ke JSON dengan 3B parameter, dan penyedia mendeskripsikannya sebagai model yang memprioritaskan kualitas ekstraksi untuk skema kompleks dan halaman panjang. Model ini berada di kategori teks, jadi ditujukan untuk pekerjaan bahasa dan pemrosesan dokumen, bukan gambar, audio, atau modalitas lain.

Model ini menerima teks sebagai input dan mengembalikan teks sebagai output. Jendela konteksnya adalah 128.000 token, yang memungkinkannya memproses halaman panjang dalam satu permintaan, dan output maksimumnya adalah 4.096 token. Penyedia mencatat bahwa instruksi ekstraksi harus diberikan melalui skema JSON, jadi skema adalah mekanisme yang memberi tahu model apa yang harus diambil dari HTML dan bagaimana membentuk hasilnya.

Karakteristik tersebut mengarah pada serangkaian penggunaan yang cukup spesifik. Yang paling jelas adalah mengubah halaman HTML menjadi JSON terstruktur, misalnya mengambil detail produk, daftar, metadata artikel, atau bidang berulang lainnya dari halaman yang tata letaknya bervariasi. Karena model ini dibangun untuk skema kompleks, model ini cocok untuk kasus di mana struktur target memiliki objek bersarang atau banyak bidang, bukan hanya beberapa nilai datar. Konteks panjang membantu ketika konten relevan terkubur jauh di bawah halaman atau ketika satu halaman berisi banyak catatan yang harus diekstrak. Ini adalah model teks masuk, teks keluar, jadi cocok untuk pipeline di mana HTML diambil di tempat lain dan diserahkan ke model untuk diurai.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan id model "inference-net/schematron-v2-small". Parameter permintaan yang didukungnya adalah frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k dan top_p. Untuk pekerjaan ekstraksi, response_format dan structured_outputs adalah parameter yang paling langsung relevan untuk mendapatkan JSON kembali dalam bentuk yang Anda minta, sedangkan seed membantu ketika Anda menginginkan hasil yang dapat diulang di berbagai eksekusi. Kontrol sampling seperti temperature, top_p, top_k dan min_p memungkinkan Anda menukar variasi dengan konsistensi, dan max_tokens membatasi panjang JSON yang dikembalikan.

Ingatlah batas output: 4.096 token adalah batas atas untuk satu respons, jadi pekerjaan ekstraksi yang sangat besar mungkin perlu dipecah menjadi beberapa panggilan meskipun sisi input dapat menampung 128.000 token. Model ini juga hanya teks, jadi halaman yang bergantung pada gambar atau tata letak yang dirender perlu ditangani sebelum mencapai model ini. Jika tugas Anda adalah obrolan umum, penalaran, atau pembuatan konten, bukan ekstraksi berbasis skema dari HTML, model teks serbaguna kemungkinan lebih cocok.