BAAI: bge-base-en-v1.5

BAAI: bge-base-en-v1.5 to model embeddingowy od BAAI, Beijing Academy of Artificial Intelligence. Należy do kategorii embeddings, co oznacza, że nie jest zbudowany do generowania odpowiedzi czatowych ani uzupełniania tekstu. Zamiast tego zamienia tekst na wektory liczbowe. Jest to model angielskojęzyczny, a v1.5 w nazwie oznacza, że jest to wersja 1.5 rodziny bge-base-en. Jeśli Twoja aplikacja potrzebuje ogólnego asystenta czatu, to nie jest ten typ modelu. Jeśli Twoja aplikacja potrzebuje porównywać, wyszukiwać lub dopasowywać tekst według znaczenia, to jest ten typ modelu do oceny.

Model przyjmuje tekst jako dane wejściowe i produkuje embeddings jako dane wyjściowe. Konkretnie, konwertuje angielskie zdania i akapity na 768-wymiarowe gęste wektory, które mają nieść znaczenie semantyczne. Długość kontekstu wynosi 512 tokenów, a maksymalne wyjście to 460. W praktyce 512 tokenów oznacza, że powinieneś wysyłać zdania lub pojedyncze akapity, a nie długie dokumenty, ponieważ dłuższy materiał będzie wymagał podzielenia przed embeddingiem. Dostawca opisuje model jako dostarczający wydajne, wysokiej jakości embeddingi semantyczne zoptymalizowane pod przepływy pracy związane z wyszukiwaniem, wyszukiwaniem semantycznym i dopasowywaniem dokumentów. Wektory są gęste, więc są wystarczająco kompaktowe, aby przechowywać je i porównywać na dużą skalę.

Te cechy wskazują na dość konkretny zestaw przypadków użycia. Wyszukiwanie semantyczne jest najjaśniejszym z nich: osadź zapytanie i swoje dokumenty, a następnie uszereguj dokumenty według podobieństwa wektorowego zamiast nakładania się słów kluczowych. Potoki wyszukiwania mogą używać tego samego zachowania do pobierania fragmentów istotnych dla pytania. Dopasowywanie dokumentów również pasuje, na przykład znajdowanie rekordów bliskich duplikatom, grupowanie podobnych zgłoszeń pomocy technicznej lub łączenie powiązanych elementów z dwóch kolekcji. Ponieważ model jest tylko angielskojęzyczny i ograniczony do 512 tokenów, nadaje się do zadań na poziomie zdań i akapitów. Deduplikacja, grupowanie i ocena podobieństwa na krótkim tekście angielskim to naturalne zastosowania, pod warunkiem że najpierw podzielisz dłuższe dane wejściowe na fragmenty.

Wywołujesz model przez API zgodne z OpenAI w api14, używając identyfikatora modelu "baai/bge-base-en-v1.5". Ponieważ API jest zgodne z formatem OpenAI, możesz skierować istniejącego klienta OpenAI na api14, wysłać swój tekst do endpointu embeddings i otrzymać wektory w odpowiedzi. Wymienione obsługiwane parametry dla tego modelu są puste, więc nie przyjmuje żadnych dodatkowych opcji dostrajania poza tym, co już zawiera Twoje żądanie; nie ma czegoś takiego jak temperature czy top_p do ustawienia, ponieważ należą one do generowania tekstu, a nie do embeddingu. Sprawdź aktualną tabelę cen na tej stronie, aby poznać bieżące stawki.

Główne ograniczenia do zapamiętania to długość kontekstu 512 tokenów, maksymalne wyjście 460, dane wejściowe tylko w języku angielskim oraz fakt, że wyjściem są wektory, a nie proza. Jeśli potrzebujesz osadzić długie dokumenty w jednym przebiegu, obsługiwać wiele języków lub generować tekst, lepiej pasować będzie inny model w api14. W swoim zamierzonym zakresie, wyszukiwanie, wyszukiwanie semantyczne i dopasowywanie dokumentów na angielskich zdaniach i akapitach, ten model jest bezpośrednią opcją.