Mistral: Mistral Embed 2312

Mistral Embed 2312 to model embeddingowy od Mistral, wymieniony na api14 pod identyfikatorem modelu mistralai/mistral-embed-2312. Należy do kategorii embeddings, co oznacza, że jego zadaniem jest zamiana tekstu na wektory, a nie generowanie odpowiedzi czatu. Mistral AI opracował go jako wyspecjalizowany model dla danych tekstowych, a data wydania przez dostawcę zapisana dla niego to 2025-10-31.

Model przyjmuje tekst jako jedyne wejście i zwraca embeddingi jako jedyne wyjście. Produkuje wektory o 1024 wymiarach, czyli reprezentację, którą przechowujesz i porównujesz, gdy potrzebujesz podobieństwa między fragmentami tekstu. Okno kontekstu wynosi 8192 tokeny, a maksymalne wyjście jest podane jako 6553. Nie ma tu zachowania uzupełniania czatu, wywoływania narzędzi ani obsługi obrazu czy dźwięku, więc należy traktować go wyłącznie jako komponent zamieniający tekst na wektory w większym potoku.

Te możliwości wskazują na dość konkretny zestaw zastosowań. Wyszukiwanie semantyczne jest oczywistym przypadkiem: raz osadzasz swoje dokumenty, osadzasz zapytanie w momencie żądania i szeregujesz według podobieństwa wektorów zamiast nakładania się słów kluczowych. Generowanie wspomagane wyszukiwaniem to drugie główne zastosowanie, gdzie embeddingi zasilają moduł wyszukujący, który dostarcza istotne fragmenty do oddzielnego modelu generującego. Ponieważ model został zoptymalizowany pod wyszukiwanie semantyczne i RAG, nadaje się również do zadań grupowania, deduplikacji i klasyfikacji, gdzie potrzebujesz stałej reprezentacji liczbowej tekstu, a nie pisemnej odpowiedzi.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu mistralai/mistral-embed-2312, więc istniejące biblioteki klienta OpenAI działają po zmianie tylko bazowego adresu URL i klucza. Należy użyć punktu końcowego embeddings, a tekst wysyłasz w polu input. Zwróć uwagę, że lista obsługiwanych parametrów dla tego modelu jest pusta, więc nie licz na przyjęcie dodatkowych opcji dostrajania, takich jak dimensions czy encoding format; wyślij identyfikator modelu i dane wejściowe, a wektor odczytaj z odpowiedzi.

Jednym praktycznym ograniczeniem, o którym warto pamiętać, jest kontekst 8192 tokenów. Bardzo długie dokumenty trzeba podzielić na fragmenty przed osadzeniem, a strategia dzielenia wpłynie na jakość wyszukiwania bardziej niż wybór modelu. Ponadto, ponieważ ten model tylko produkuje embeddingi, nie może samodzielnie odpowiadać na pytania ani pisać tekstu. Jeśli twoim zadaniem jest generowanie, streszczanie lub rozmowa, a nie wyszukiwanie, lepszym wyborem będzie model czatu lub model instrukcji, a Mistral Embed 2312 należy do wcześniejszego etapu potoku, tam gdzie tekst jest zamieniany na coś przeszukiwalnego.