Mistral: Codestral Embed 2505, Mistral tarafından sunulan bir embeddings modelidir ve OpenAI: Text Embedding 3 Small, OpenAI tarafından sunulan bir embeddings modelidir. Her ikisi de embeddings kategorisinde yer alır, yani sohbet yanıtları üretmek yerine metni alıp vektör döndürürler. Hiçbiri genel amaçlı bir sohbet modeli değildir, bu nedenle bir yanıt taslağı hazırlamak veya sohbet etmek için ikisini de çağırmazsınız. Onları arama, kümeleme, yinelenenleri kaldırma veya sınıflandırma için metnin sayısal bir temsiline ihtiyaç duyduğunuzda çağırırsınız.
Burada en çok önem taşıyan özellikler açısından iki model birbirine yakındır. Her ikisi de tek girdi modalitesi olarak metni kabul eder ve her ikisi de tek çıktı modalitesi olarak embeddings döndürür, dolayısıyla tartılacak bir çok modlu fark yoktur. Her ikisinin de bağlam uzunluğu 8192 tokendır, bu da tek bir çağrıda gömebileceğiniz metin miktarının her iki tarafta da aynı olduğu anlamına gelir. Hiçbiri desteklenen herhangi bir parametre sunmaz, bu nedenle istek anında ek seçeneklerle onları ayarlayamazsınız. Listelenen tek niteliksel fark girdi fiyatıdır ve OpenAI modeli ikisi arasında daha ucuz olanıdır. Çıktı fiyatlandırması aralarında anlamlı ölçüde farklı değildir, bu nedenle maliyet farkı, ne kadarsa, girdi tarafından kaynaklanır.
Çoğu embedding görevi için seçim, ham yetenekten ziyade uygunluğa bağlıdır, çünkü yetenek zarfı neredeyse aynıdır. Kod, tanımlayıcılar veya doğal dili kaynakla karıştıran metinleri gömüyorsanız, Codestral Embed 2505 soyu göz önüne alındığında doğal adaydır. Anlamsal arama, dokümantasyon üzerinde erişim veya kullanıcı metinlerinin kümelenmesi için sıradan düzyazı gömüyorsanız, Text Embedding 3 Small makul bir varsayılandır ve girdi açısından daha ucuz seçenektir; bu, girdi hacminin baskın olduğu büyük külliyatları gömerken önemlidir. Külliyatınız büyükse ve çoğunlukla düz metinse, girdi fiyatı farkı OpenAI modeli için ana pratik argümandır. Külliyatınız koddan ağırsa, önce denenecek model Mistral modelidir.
Her iki modeli api14 üzerinden çağırmak aynı işlemdir. API, OpenAI uyumludur, bu nedenle mevcut istemcinizi api14 temel URL'sine yönlendirin, metninizi embeddings uç noktasına gönderin ve model alanını istediğiniz id olarak ayarlayın. Mistral modelini kullanmak için model id değerini mistralai/codestral-embed-2505 olarak ayarlayın. OpenAI modelini kullanmak için openai/text-embedding-3-small olarak ayarlayın. İstekte başka hiçbir şey değişmez ve yanıt şekli aynıdır, bu nedenle o tek dizeyi düzenleyerek aralarında geçiş yapabilirsiniz. Bu, taahhütte bulunmadan önce her ikisini de kendi verilerinizle karşılaştırmayı ucuz hale getirir.
Girdi açısından daha pahalı olmasına rağmen Mistral modelinin yine de daha iyi seçim olduğu bir durum vardır. Metniniz ağırlıklı olarak kod veya koda yakınsa ve bu tür içerik için ortaya çıkan vektörlerin kalitesini önemsiyorsanız, Codestral modeli bu malzeme için üretilmiş olandır ve girdi fiyatı farkını karşılamaya değebilir. Tersine, iş yükünüz yüksek hacimli düz metinse ve girdi tokenı başına maliyet belirleyici faktörse, başvurulacak model OpenAI modelidir. Her ikisi de aynı bağlam uzunluğunu ve aynı girdi ve çıktı modalitelerini paylaştığından, yalnızca içerik türüne ve girdi maliyetine göre karar verebilirsiniz.