Intfloat: E5-Large-v2

Intfloat: E5-Large-v2, Intfloat tarafından sunulan bir embeddings modelidir. Embeddings kategorisine aittir, yani işi sohbet yanıtları üretmek yerine metni vektörlere dönüştürmektir. Sağlayıcı, modeli İngilizce cümleleri, paragrafları ve belgeleri 1024 boyutlu yoğun bir vektör uzayına eşleme olarak tanımlar ve amacı yüksek doğrulukta anlamsal embeddings elde etmektir. Uygulamanız yazılı bir yanıt yerine metnin anlamını yakalayan bir temsiline ihtiyaç duyuyorsa, başvuracağınız model türü budur.

Model, tek girdi modalitesi olarak metni kabul eder ve tek çıktı modalitesi olarak embeddings üretir. Bağlam uzunluğu 512 token'dır, dolayısıyla her istek oldukça kısa bir metin aralığıyla sınırlıdır ve maksimum çıktı 460'tır. Görüntü, ses veya metin dışı başka bir girdi yoktur ve çıktı tarafında üretilmiş düzyazı yoktur. Modelin döndürdüğü her şey bir vektördür; bunu saklar, karşılaştırır veya işlem hattınızın başka bir aşamasına beslersiniz.

Bu özellikler belirli bir kullanım kümesine işaret eder. En net olanı retrieval'dır: belgelerinizi bir kez embed edin, sorguyu istek anında embed edin ve en yakın pasajları bulmak için vektörleri karşılaştırın. Anlamsal arama da aynı şekilde çalışır, tam anahtar kelimeler yerine anlam üzerinden eşleşir. Sağlayıcı ayrıca reranking ve benzerlik puanlamasını da listeler, böylece vektörleri aday sonuçları yeniden sıralamak veya iki metin parçasının birbirine ne kadar yakın olduğunu ölçmek için kullanabilirsiniz. Vektörler 1024 boyutlu ve yoğun olduğundan, bir vektör indeksinde saklanmaya ve kosinüs veya iç çarpım karşılaştırmasına uygundurlar.

Modeli api14'ün OpenAI uyumlu API'si üzerinden "intfloat/e5-large-v2" model id'siyle çağırırsınız. Uç nokta OpenAI formatını izlediği için mevcut bir OpenAI istemcisini api14'e yönlendirip metninizi her zamanki şekilde gönderebilir, ardından yanıttan embedding'i okuyabilirsiniz. Model ek istek parametresi desteklemez, dolayısıyla standart istek alanlarının ötesinde yapılandırılacak bir şey yoktur. Her girdiyi 512 token'lık bağlam uzunluğu içinde tutun ve çıktının embedding'in kendisi olmasını bekleyin.

Planlarken dikkate almanız gereken ana kısıt 512 token'lık bu penceredir. Uzun belgelerin embed edilmeden önce parçalara bölünmesi gerekecek ve bu parça vektörlerinin nasıl birleştirileceğine veya saklanacağına karar vermeniz gerekecek. Sağlayıcı açıklamasına göre model ayrıca İngilizce odaklıdır, dolayısıyla diğer dillerdeki metinler aynı güvenilirlikte embed edilmeyebilir. Göreviniz metin üretimi, sohbet veya yazılı bir yanıt gerektiren herhangi bir şeyse, bir embeddings modeli yanlış araçtır ve üretici bir model daha uygun olur.