ScaleDown: Extract

ScaleDown: Extract adalah model teks dari ScaleDown, yang dibangun khusus untuk ekstraksi entitas berbasis deskripsi. Alih-alih memaksa Anda memilih dari sekumpulan tipe entitas yang tetap, model ini memungkinkan Anda mendeskripsikan field yang Anda inginkan dalam bahasa Inggris biasa. Hal itu menjadikannya jenis alat yang berbeda dari model chat umum: tugasnya adalah menarik informasi terstruktur dari apa pun yang Anda berikan, dipandu oleh deskripsi Anda sendiri tentang field target.

Model ini menerima teks, gambar, dan file sebagai input, dan mengembalikan teks. Jendela konteksnya adalah 1.000.000 token, dan output maksimumnya adalah 900.000 token. Kombinasi jendela input yang sangat besar dan batas output yang besar berarti Anda dapat memberikan dokumen panjang atau media campuran dan tetap mendapatkan hasil ekstraksi yang substansial kembali dalam satu panggilan. Daftar parameter yang didukung sengaja dibuat pendek: hanya max_tokens yang tersedia, yang cocok untuk model yang perilakunya terutama diarahkan oleh deskripsi entitas yang Anda berikan, bukan oleh banyak pengaturan sampling.

Kasus penggunaan praktis mengikuti langsung dari kemampuan tersebut. Jika Anda memiliki kontrak, faktur, laporan, atau dokumen pindaian dan Anda perlu menarik field tertentu, Anda mendeskripsikan field tersebut dan biarkan model menemukannya. Karena gambar dan file diterima bersama teks, panggilan yang sama dapat mencakup PDF, tangkapan layar, atau dump teks biasa tanpa pipeline terpisah untuk setiap format. Konteks satu juta token berguna ketika detail yang relevan tersebar di seluruh dokumen panjang dan Anda lebih memilih untuk tidak memotongnya sendiri. Batas output yang besar membantu ketika hasil ekstraksi itu sendiri panjang, seperti daftar banyak entitas atau struktur mirip tabel.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "scaledown/extract". Satu-satunya parameter permintaan yang didukung adalah max_tokens, jadi jaga bentuk permintaan Anda tetap sederhana dan letakkan deskripsi field di tempat yang diharapkan provider, yaitu di bawah provider.options.scaledown.entities. Karena antarmukanya kompatibel dengan OpenAI, klien dan SDK yang ada umumnya berfungsi dengan mengganti model id dan endpoint, dan Anda dapat mengatur max_tokens untuk membatasi panjang respons sesuai beban kerja Anda.

Permukaan parameter yang sempit perlu diperhatikan saat Anda memilih model. Jika tugas Anda membutuhkan generasi kreatif, percakapan multi-turn, atau kontrol halus atas perilaku sampling, model teks serbaguna akan lebih cocok. Extract ditujukan untuk satu pekerjaan, dan model ini menjalankan pekerjaan itu dengan membaca deskripsi Anda tentang field, bukan dengan menyediakan banyak opsi penyetelan. Untuk tugas ekstraksi di mana field lebih mudah dideskripsikan dengan kata-kata daripada dinyatakan sebagai skema, model ini adalah default yang wajar untuk dicoba terlebih dahulu.