NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Llama Nemotron Embed VL 1B V2, NVIDIA tarafından geliştirilen bir gömme modelidir ve api14 üzerinde nvidia/llama-nemotron-embed-vl-1b-v2:free model kimliğiyle dağıtılmaktadır. Embeddings kategorisine aittir ve belirtilen amacı çok kipli soru-cevap erişimidir. 1B sınıfı bir modeldir, bu da onu Nemotron ailesindeki daha küçük seçenekler arasına yerleştirir ve burada ücretsiz bir varyant olarak sunulmaktadır.

Model girdi olarak metin ve görüntü kabul eder, çıktı olarak gömmeler üretir. Belgeleri üç biçimde gömebilir: yalnızca görüntü, yalnızca metin veya görüntü ve metin birlikte. Bu esneklik tasarımının özünü oluşturur, çünkü erişim sistemleri genellikle bir metin sorusunu bir sayfa görüntüsü, bir ekran görüntüsü, bir diyagram veya bir düzyazı pasajıyla eşleştirmek zorundadır. Bağlam penceresi 131072 tokendır ve maksimum çıktı 117964'tür, böylece uzun belgeler birçok parçaya bölünmeden gömülebilir.

Pratik kullanımlar çok kipli erişimden doğar. Taranmış belgeler, PDF'ler, ürün görselleri veya karma medya bilgi tabanları üzerinde bir soru-cevap sistemi kuran bir ekip, her öğeyi bir kez gömebilir ve ardından bir metin sorgusuna karşı benzerlik araması çalıştırabilir. Görüntü ve metin birlikte gömülebildiği için aynı dizin hem bir grafikle ilgili sorgulara hem de yanındaki paragrafla ilgili sorgulara hizmet edebilir, bu da görsel ve metinsel içerik için ayrı ardışık düzenler sürdürmeyi önler. Ayrıca ekran görüntüleriyle yazılı materyali karıştıran koleksiyonlarda tekilleştirme, kümeleme ve öneri için uygundur.

api14 üzerinden çağırmak için, nvidia/llama-nemotron-embed-vl-1b-v2:free model kimliğiyle OpenAI uyumlu embeddings uç noktasını kullanın. Model desteklenen parametre listelemez, bu nedenle istekler temperature veya top_p gibi örnekleme denetimlerine değil, uç noktanın gerektirdiği standart alanlara dayanmalıdır; bunlar gömme modelleri için geçerli değildir. Girdinizi olağan embeddings istek biçiminde gönderin ve vektörü yanıttan okuyun.

Değerlendirilmesi gereken bir nokta, bunun bir sohbet veya üretim modeli değil bir gömme modeli olduğudur, bu nedenle soruları yanıtlamaz veya metin yazmaz. Göreviniz üretim, akıl yürütme veya konuşma ise, farklı bir model doğru seçimdir. Ayrıca erişim yığınınızın modelin döndürdüğü vektör boyutlarını saklayıp karşılaştırabildiğini ve girdilerinizin 131072 token bağlamına sığdığını kontrol etmeye değer.