VoyageAI by MongoDB: voyage-4-lite

voyage-4-lite, Voyage AI tarafından geliştirilen bir gömme (embedding) modelidir. Voyage AI, Voyage retrieval model ailesinin arkasındaki şirkettir ve artık MongoDB'nin bir parçasıdır. Model, sohbet kategorisinden ziyade gömmeler kategorisinde yer alır, yani metin üretmez. Bunun yerine, metni saklayıp karşılaştırdığınız vektörlere dönüştürür. Düşük gecikme ve maliyet için tasarlanmış, en zorlu retrieval problemlerinde maksimum doğruluk yerine hafif, genel amaçlı bir model olarak konumlandırılmıştır.

Model girdi olarak metin kabul eder ve çıktı olarak gömmeler döndürür. Bağlam uzunluğu 32.000 tokendır ve maksimum çıktı 28.800'dür, böylece uzun belgeler birçok küçük parçaya bölünmeden gömülebilir. Voyage AI modeli Matryoshka öğrenimi ve niceleme farkındalıklı eğitim ile eğitmiştir; bu sayede tek bir model 2048, 1024, 512 ve 256 boyutlarında gömmeler üretebilir. Depolama ve gecikme bütçenize uyan boyutu seçersiniz ve kısa vektörler çökmeden kullanılabilir kalır.

Bu özellikler oldukça belirli bir kullanım kümesine işaret eder. Bir belge koleksiyonu üzerinde anlamsal arama, parçaları bir kez gömüp gömülü bir soruyla sorguladığınız temel durumdur. Aynı vektörler, retrieval augmented generation, tekilleştirme ve neredeyse yinelenenleri tespit etme, kümeleme ve konu gruplama ile bir girdiyi etiketli örneklerle karşılaştırdığınız sınıflandırma veya yönlendirmeyi destekler. Model 32.000 token bağlamı işleyebildiği için tüm sayfaları veya uzun pasajları doğrudan gömebilirsiniz; bu da kod arama, destek talebi triyajı ve dahili bilgi tabanlarına uygundur. Düşük boyut seçenekleri, milyonlarca vektör sakladığınızda ve indeksi küçük tutmak istediğinizde önemlidir.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "voyageai/voyage-4-lite" model id'si ile çağırırsınız. Endpoint OpenAI embeddings şeklini izlediği için mevcut istemciler ve kütüphaneler yalnızca temel URL ve model id değiştirilerek çalışır. Model ek desteklenen parametre sunmaz, bu nedenle istekler embeddings endpoint'inin kabul ettiği standart alanlara dayanır; bunlar arasında girdi metni ve model id bulunur. Ayar yapılacak örnekleme, temperature veya araç yapılandırması yoktur, çünkü bunların hiçbiri bir gömme modeli için geçerli değildir.

Göreviniz metin üretimi, özetleme veya akıl yürütme ise bu yanlış modeldir ve bir sohbet modeli daha iyi uyum sağlar. voyage-4-lite ayrıca hafif ve genel amaçlı olarak tanımlanmıştır, bu nedenle özelleşmiş veya son derece teknik korpuslarda en güçlü retrieval kalitesine ihtiyacınız varsa daha büyük bir Voyage gömme modeli daha olası tercihtir.