NVIDIA: Nemotron 3.5 Embed 8B (free)

NVIDIA: Nemotron 3.5 Embed 8B (free) to model embeddingowy od NVIDIA, opublikowany pod identyfikatorem modelu nvidia/nemotron-3.5-embed-8b:free na api14. Należy do kategorii embeddings, więc służy do zamiany danych wejściowych na reprezentacje wektorowe, a nie do generowania odpowiedzi w czacie. Data wydania przez dostawcę to 2026-10-21. Jeśli wybierasz model do pipeline'u wyszukiwania lub podobieństwa, to właśnie ten typ modelu powinieneś oceniać na własnych danych, a nie ogólnego przeznaczenia generator tekstu.

Model jest multimodalny po stronie wejścia: przyjmuje tekst i obrazy. Po stronie wyjścia produkuje wyłącznie embeddingi. Jego długość kontekstu wynosi 32768 tokenów, a maksymalne wyjście to 29491. NVIDIA opisuje go jako multimodalny model embeddingowy do wielojęzycznego wyszukiwania w tekście i obrazach stron dokumentów, w tym tabelach, wykresach i infografikach. Zapytania są tekstowe, natomiast dokumenty mogą być tekstem lub obrazami stron. Ta kombinacja stanowi sedno działania modelu: mapuje zapytanie tekstowe i dokument, w formie tekstowej lub obrazowej, do wspólnej przestrzeni embeddingów, aby można je było porównywać.

Praktyczne przypadki użycia wynikają bezpośrednio z tych możliwości. Wielojęzyczne wyszukiwanie jest tym głównym, więc przeszukiwanie treści w więcej niż jednym języku jest naturalnym zastosowaniem. Ponieważ strony dokumentów można dostarczać jako obrazy, możesz indeksować zeskanowane strony, pliki PDF i raporty bez osobnego etapu OCR, a mimo to wyszukiwać tabele, wykresy i infografiki, które zwykła ekstrakcja tekstu zwykle gubi. Obsługiwane jest także wyszukiwanie tekst do tekstu w korpusie. Typowe konfiguracje obejmują wyszukiwanie semantyczne, odpowiadanie na pytania na podstawie repozytorium dokumentów, deduplikację i grupowanie oraz rekomendacje lub ranking, gdy potrzebujesz wyniku podobieństwa między zapytaniem a dokumentem kandydującym.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu nvidia/nemotron-3.5-embed-8b:free. Ponieważ interfejs jest zgodny ze strukturą embeddings OpenAI, wysyłasz swoje dane wejściowe i odczytujesz wektor z odpowiedzi, co zachowuje przenośność kodu klienta, jeśli później zmienisz model. Model nie wymienia żadnych obsługiwanych parametrów, więc nie ma dodatkowych opcji próbkowania ani generowania do ustawienia; ogranicz żądania do samych danych wejściowych i identyfikatora modelu. Zwróć uwagę, że to endpoint embeddingów, a nie endpoint uzupełnień czatu, więc pola specyficzne dla czatu nie mają zastosowania.

Jednym ograniczeniem wartym zaplanowania jest długość kontekstu wynosząca 32768 tokenów na żądanie, co ogranicza, ile tekstu lub jak duży obraz strony możesz osadzić jednocześnie; dłuższe dokumenty wymagają podziału na fragmenty. Ponieważ model zwraca embeddingi, a nie wygenerowany tekst, jest złym wyborem, gdy potrzebujesz streszczania, ekstrakcji lub odpowiedzi konwersacyjnych. Do tych zadań lepiej pasuje model generowania tekstu, a tego modelu użyłbyś obok niego jako warstwy wyszukiwania.