VoyageAI by MongoDB: voyage-4-large

VoyageAI by MongoDB: voyage-4-large, modelleri VoyageAI by MongoDB adı altında dağıtılan bir sağlayıcı olan Voyage AI'ye ait bir embedding modelidir. Embeddings kategorisinde yer alır, yani sohbet yanıtları üretmek yerine metni vektörlere dönüştürmek için tasarlanmıştır. Bir retrieval veya benzerlik hattı için model seçiyorsanız, bu tam olarak konuşma yeteneğine göre değil embedding kalitesine göre değerlendireceğiniz türden bir modeldir.

Model, tek girdi modalitesi olarak metni kabul eder ve tek çıktı olarak embeddings döndürür. 32.000 token bağlam uzunluğuna sahiptir, bu nedenle tek bir istek oldukça uzun bir belgeyi veya daha kısa pasajlardan oluşan bir grubu kapsayabilir. Sağlayıcı bunu retrieval kalitesi için optimize edilmiş, son teknoloji ürünü genel amaçlı ve çok dilli bir embedding olarak tanımlar. Matryoshka learning ve quantization-aware training kullanır ve 2048, 1024, 512 ve 256 boyutlarında embeddings destekler. Maksimum çıktı 28.800 olarak listelenmiştir, bu bir isteğin embedding çıktısı tarafındaki üst sınırdır.

Bu yetenekler belirli bir kullanım senaryoları kümesine işaret eder. Bir belge koleksiyonu üzerinde anlamsal arama ve retrieval en doğrudan uyumdur, çünkü model retrieval kalitesi için ayarlanmıştır ve 32.000 token bağlamı içinde uzun pasajları gömebilir. Çok dilli korporalar da çok dilli eğitim göz önüne alındığında makul bir hedeftir. Embeddings 2048, 1024, 512 veya 256 boyutlarına kısaltılabildiğinden, indeksinizin ne kadar hassasiyete ihtiyaç duyduğuna bağlı olarak vektör boyutunu depolama ve arama hızıyla değiş tokuş edebilirsiniz. Metin üzerinde kümeleme, tekilleştirme ve benzerlik puanlaması diğer doğal uygulamalardır; ayrı bir üretim modelini besleyen bir vektör indeksi oluşturmak da öyle.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "voyageai/voyage-4-large" model id'sini kullanarak çağırırsınız. Endpoint OpenAI formatını izlediği için, mevcut bir OpenAI istemcisini api14'e yönlendirebilir ve entegrasyonunuzu yeniden yazmadan embedding istekleri gönderebilirsiniz. Modelin desteklenen parametreler listesi boştur, bu nedenle standart embedding çağrısının gerektirdiklerinin ötesinde yapılandırılacak ekstra istek parametresi yoktur. Model id'sini ayarlamanız gereken tek modele özgü değer olarak düşünün.

Akılda tutulması gereken pratik bir kısıt, bu modelin yalnızca metin girdisini işlemesi ve yalnızca embeddings üretmesidir. Metin üretemez, soruları yanıtlayamaz veya talimatları izleyemez, bu nedenle yazılı bir yanıt gerektiren herhangi bir uygulama yanında ayrı bir üretim modeli gerektirir. 32.000 token bağlamı embedding işi için cömerttir ancak yine de sonludur, bu nedenle çok büyük belgelerin embedding öncesinde parçalara ayrılması gerekir. Göreviniz retrieval yerine üretimse, bir sohbet veya tamamlama modeli daha iyi uyum sağlar.