Google: Gemini Embedding 2 to model embedding od Google, a Mistral: Mistral Embed 2312 to model embedding od Mistral. Oba należą do kategorii embeddings, co oznacza, że ich zadaniem jest zamiana danych wejściowych na wektory, które można przechowywać, porównywać i przeszukiwać, a nie generowanie odpowiedzi czatu. Jeśli budujesz wyszukiwanie informacji, grupowanie, deduplikację lub wyszukiwanie semantyczne, to właśnie między tymi dwoma kandydatami wybierasz na api14.
Najwyraźniejsza różnica dotyczy modalności danych wejściowych. Gemini Embedding 2 przyjmuje tekst, obraz, plik, dźwięk i wideo, i zwraca embeddingi. Mistral Embed 2312 przyjmuje wyłącznie tekst. Oba mają długość kontekstu 8192 tokenów, więc ilość tekstu, jaką można zmieścić w jednym żądaniu, jest teoretycznie taka sama, a żaden z modeli nie udostępnia obsługiwanych parametrów, które można dostrajać. W praktyce oznacza to, że wybór nie dotyczy tego, ile tekstu się zmieści, ale tego, jaki rodzaj treści trzeba osadzić. Jeśli korpus składa się ze zwykłego tekstu, oba modele sobie poradzą, a okna kontekstu są zgodne. Jeśli korpus zawiera zrzuty ekranu, zeskanowane strony, klipy audio lub klatki wideo, tylko Gemini Embedding 2 obsługuje takie dane wejściowe bezpośrednio.
Dla dewelopera wybierającego jeden z modeli punktem wyjścia powinny być dane. Pipeline wyłącznie tekstowy, na przykład osadzanie zgłoszeń do pomocy technicznej, stron dokumentacji, opisów produktów lub dzienników czatu, naturalnie pasuje do Mistral Embed 2312, który według cennika pokazanego na tej stronie jest tańszą opcją pod względem danych wejściowych. Pipeline łączący tekst z obrazami, plikami, dźwiękiem lub wideo naturalnie pasuje do Gemini Embedding 2, ponieważ Mistral Embed 2312 w ogóle nie przyjmuje takich danych wejściowych. Tam, gdzie oba modele mogłyby zadziałać, czynnikiem rozstrzygającym jest koszt, a to wskazuje na Mistral Embed 2312 po stronie danych wejściowych. Cena danych wyjściowych nie jest podana jako czynnik różnicujący, więc nie zakładaj, że któryś z nich jest tańszy po stronie danych wyjściowych.
Wywoływanie któregokolwiek z tych modeli przez api14 działa tak samo, ponieważ API jest zgodne z OpenAI. Kierujesz klienta na bazowy adres URL api14, wysyłasz dane wejściowe do endpointu embeddings i ustawiasz pole model. Aby użyć Gemini Embedding 2, ustaw identyfikator modelu na "google/gemini-embedding-2". Aby użyć Mistral Embed 2312, ustaw go na "mistralai/mistral-embed-2312". Wszystko inne w żądaniu pozostaje bez zmian, więc przełączanie między nimi to zmiana jednej linii, a oba modele można porównać na własnych danych przed podjęciem decyzji.
Nadal istnieje argument za drugim modelem. Jeśli obciążenie jest wyłącznie tekstowe i koszt danych wejściowych ma znaczenie, Mistral Embed 2312 pozostaje lepszym wyborem, mimo że Gemini Embedding 2 również obsługuje tekst. Za możliwości multimodalne warto płacić tylko wtedy, gdy faktycznie się z nich korzysta.