BAAI: bge-m3

BAAI: bge-m3, BAAI (Pekin Yapay Zeka Akademisi) tarafından geliştirilen bir gömme modelidir. Gömlemler kategorisine aittir, yani sohbet yanıtları üretmek yerine metni vektörlere dönüştürmek için tasarlanmıştır. Uygulamanız soruları yanıtlayan veya metin yazan bir model gerektiriyorsa, bu o tür bir model değildir; diğer sistemlerin metni karşılaştırabilmesi, arayabilmesi ve geri getirebilmesi için metni sayısal olarak temsil etmek üzere vardır.

Model tek girdi olarak metni alır ve tek çıktı olarak gömlemler üretir. Sağlayıcıya göre, cümleleri, paragrafları ve uzun belgeleri 1024 boyutlu yoğun bir vektör uzayına kodlar ve yüksek kaliteli anlamsal gömlemler sunmayı amaçlar. Çok dilli geri getirme, anlamsal arama ve büyük bağlamlı uygulamalar için optimize edilmiştir. Bağlam penceresi 8194 tokendır ve maksimum çıktı 7374'tür, bu nedenle oldukça uzun metin pasajları birçok küçük parçaya bölünmek yerine tek bir istekte kodlanabilir.

Bu yetenekler net bir pratik kullanım kümesine işaret eder. Anlamsal arama en doğrudan olanıdır: belgelerinizi bir kez kodlayın, istek anında kullanıcı sorgusunu kodlayın ve belgeleri anahtar kelime örtüşmesi yerine vektör benzerliğine göre sıralayın. Geri getirmeyle güçlendirilmiş üretim bir diğeridir; burada bge-m3, bir soruya anlamsal olarak yakın pasajları bularak geri getirme yarısını sağlar ve bunlar daha sonra ayrı bir üretken modele aktarılır. Model çok dilli olduğundan, aynı dizin farklı dillerdeki sorgulara ve belgelere hizmet edebilir; bu da diller arası arama, yinelenenleri kaldırma ve metin koleksiyonlarını kümeleme için uygundur. Uzun bağlam penceresi, tek bir belge parçası büyük olduğunda da yardımcı olur, çünkü daha az parça, anlamın vektörler arasında daha az parçalanması anlamına gelir.

Modeli api14'ün OpenAI uyumlu API'si aracılığıyla "baai/bge-m3" model kimliğini kullanarak çağırırsınız. Arayüz OpenAI biçimini izlediğinden, mevcut bir OpenAI istemcisini api14'ün temel URL'sine yönlendirebilir ve metninizi bu kimlikle gömlemler uç noktasına gönderebilirsiniz; entegrasyonunuzu yeniden yazmanız gerekmez. Model, uç noktanın gerektirdiklerinin ötesinde desteklenen hiçbir parametre listelemez, bu nedenle istekleri basit tutun: girdi metnini ve model kimliğini sağlayın ve döndürülen vektörleri okuyun. Burada ayarlanacak temperature gibi örnekleme denetimleri yoktur, çünkü çıktı üretilen tokenlar değil deterministik gömme verisidir.

Akılda tutulması gereken bir şey kapsamdır. bge-m3 yalnızca metni kabul eder ve yalnızca gömlemler döndürür, bu nedenle özetleme, üretim yoluyla sınıflandırma veya konuşma yanıtları gibi görevler için yanında farklı bir modele ihtiyaç vardır. 8194 tokenlık bağlam, geri getirme işleri için cömerttir ancak yine de sınırlıdır, bu nedenle çok büyük belgeler kodlanmadan önce parçalara ayrılmalıdır. Bu sınırlar içinde, sorununuz temelde metni temsil etmek ve karşılaştırmakla ilgiliyse makul bir seçimdir.