NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Llama Nemotron Embed VL 1B V2 adalah model embedding dari NVIDIA, didistribusikan di api14 dengan model id nvidia/llama-nemotron-embed-vl-1b-v2:free. Model ini termasuk dalam kategori embeddings, dan tujuan yang dinyatakan adalah pengambilan tanya jawab multimodal. Ini adalah model kelas 1B, yang menempatkannya di antara opsi yang lebih kecil dalam keluarga Nemotron, dan ditawarkan di sini dalam varian gratis.

Model ini menerima teks dan gambar sebagai input dan menghasilkan embeddings sebagai output. Model ini dapat menyematkan dokumen dalam tiga bentuk: hanya gambar, hanya teks, atau gambar dan teks bersama-sama. Fleksibilitas itu adalah inti dari desainnya, karena sistem pengambilan sering perlu mencocokkan pertanyaan teks dengan gambar halaman, tangkapan layar, diagram, atau bagian prosa. Jendela konteksnya adalah 131072 token, dan output maksimumnya adalah 117964, sehingga dokumen panjang dapat disematkan tanpa memecahnya menjadi banyak fragmen.

Penggunaan praktis mengikuti dari pengambilan multimodal. Tim yang membangun sistem tanya jawab atas dokumen yang dipindai, PDF, gambar produk, atau basis pengetahuan media campuran dapat menyematkan setiap item sekali dan kemudian menjalankan pencarian kesamaan terhadap kueri teks. Karena gambar dan teks dapat disematkan bersama, indeks yang sama dapat melayani kueri tentang bagan dan kueri tentang paragraf di sebelahnya, yang menghindari pemeliharaan pipeline terpisah untuk konten visual dan tekstual. Model ini juga cocok untuk deduplikasi, pengelompokan, dan rekomendasi atas koleksi yang mencampur tangkapan layar dengan materi tertulis.

Untuk memanggilnya melalui api14, gunakan endpoint embeddings yang kompatibel dengan OpenAI dengan model id nvidia/llama-nemotron-embed-vl-1b-v2:free. Model ini tidak mencantumkan parameter yang didukung, jadi permintaan harus mengandalkan bidang standar yang diperlukan endpoint daripada kontrol sampling seperti temperature atau top_p, yang tidak berlaku untuk model embedding. Kirim input Anda dalam bentuk permintaan embeddings yang biasa dan baca vektor kembali dari respons.

Satu hal yang perlu dipertimbangkan adalah ini adalah model embedding, bukan model obrolan atau generasi, jadi model ini tidak akan menjawab pertanyaan atau menulis teks. Jika tugas Anda adalah generasi, penalaran, atau percakapan, model yang berbeda adalah pilihan yang tepat. Ada baiknya juga memeriksa bahwa tumpukan pengambilan Anda dapat menyimpan dan membandingkan dimensi vektor yang dikembalikan model, dan bahwa input Anda sesuai dengan konteks 131072 token.