Thenlper: GTE-Large

Thenlper: GTE-Large, Thenlper tarafından geliştirilen ve api14 üzerinde thenlper/gte-large model id'si ile listelenen bir embedding modelidir. Embeddings kategorisinde yer alır, yani görevi sohbet yanıtları üretmek değil, metni saklayabileceğiniz, karşılaştırabileceğiniz ve üzerinde arama yapabileceğiniz vektörlere dönüştürmektir. Uygulamanız açık uçlu üretim yerine anlamsal benzerliğe dayanıyorsa, değerlendireceğiniz model tam da bu türdendir.

Model, metin girdisi kabul eder ve çıktı olarak embeddings üretir. Sağlayıcı açıklamasına göre, İngilizce cümleleri, paragrafları ve orta uzunluktaki belgeleri 1024 boyutlu yoğun bir vektör uzayına dönüştürür; belirtilen amaç, bilgi erişimi, anlamsal metin benzerliği ve yeniden sıralama için optimize edilmiş yüksek kaliteli anlamsal embeddings sunmaktır. Bağlam penceresi 512 token'dır ve maksimum çıktı 460'tır. Girdi modalitesi yalnızca metin olduğundan burada görüntü veya ses işleme yoktur ve çıktı düz metin değil bir vektördür.

Bu yetenekler oldukça belirli bir kullanım senaryoları kümesine işaret eder. Bilgi erişimi en belirgin olanıdır: belgelerinizi bir kez embedding'e dönüştürün, istek anında kullanıcı sorgusunu embedding'e dönüştürün ve vektör benzerliğine göre sıralayın. Anlamsal metin benzerliği doğrudan bunu izler; tekrar kaldırma, kümeleme veya çok az kelime dağarcığı paylaşan yeniden ifadeleri eşleştirme için kullanışlıdır. Yeniden sıralama da sağlayıcı açıklamasında belirtilmiştir, bu nedenle daha ucuz bir ilk aşama erişimcinin ürettiği kısa bir aday listesini yeniden puanlamak için modeli kullanabilirsiniz. 512 token'lık bağlam cümlelere, paragraflara ve orta uzunluktaki belgelere uygundur, bu nedenle daha uzun materyali embedding'den önce parçalara ayırmak beklenen desendir.

Modele api14'ün OpenAI uyumlu API'si üzerinden thenlper/gte-large model id'sini kullanarak çağrı yaparsınız. API, OpenAI biçimini izlediği için mevcut istemcinizi api14'ün temel URL'sine yönlendirir ve istekte bu id'yi geçirirsiniz. Bu model için desteklenen parametreler listesi boştur, dolayısıyla uç noktanın gerektirdiklerinin ötesinde ayarlanacak ek istek parametresi yoktur; metninizi gönderir ve yanıttan embedding'i okursunuz. İstek tarafında ayarlanacak bir şey yoktur, bu da hâlihazırda bir embeddings hattınız varsa entegrasyonu basit tutar.

Planlarken dikkate alınması gereken ana kısıt 512 token'lık bağlam penceresidir. Uzun belgelerin parçalara bölünmesi gerekir ve herhangi bir erişim tasarımı bunu hesaba katmalıdır. Modelin İngilizce metinle çalıştığı belirtilmiştir, dolayısıyla diğer diller sağlayıcı açıklamasının kapsamı dışındadır. Yalnızca embeddings ürettiği için kendi başına soruları yanıtlayamaz veya metin yazamaz; üretime ihtiyacınız varsa bu modeli tek başına kullanmak yerine ayrı bir dil modeliyle eşleştirirsiniz.