Reka Edge

Reka Edge to model multimodalny od Reka AI, wymieniony na api14 pod identyfikatorem modelu rekaai/reka-edge. To 7B model językowo-wizyjny zbudowany z myślą o wydajności, co ma znaczenie, gdy chcesz uzyskać rozumienie multimodalne bez uruchamiania bardzo dużego modelu. Dostawca opisuje go jako zoptymalizowany specjalnie pod rozumienie obrazu, a w katalogu znajduje się w kategorii tekst, co oznacza, że generowanie tekstu jest jego głównym wynikiem.

Po stronie wejścia Reka Edge przyjmuje obrazy, wideo i tekst, a zwraca tekst. Dzięki temu nadaje się do zadań, w których prompt łączy media wizualne z instrukcjami tekstowymi, a odpowiedź wraca jako proza, tekst strukturalny lub wywołania narzędzi. Okno kontekstu wynosi 16 384 tokeny łącznie dla wejścia i wyjścia, a maksymalne wyjście to 14 745 tokenów, więc możesz żądać dość długich generacji, zachowując jednocześnie miejsce na prompt. Obsługiwane parametry żądania obejmują temperature, top_p, top_k, frequency_penalty, presence_penalty, seed, stop, max_tokens, logprobs i top_logprobs, więc masz standardowe kontrolki próbkowania oraz możliwość sprawdzania prawdopodobieństw na poziomie tokenów.

Ponieważ obsługuje wejście obrazowe i wideo obok tekstu, oczywiste przypadki użycia to te, w których model musi odczytywać treść wizualną, a nie tylko ogólnie ją opisywać. Rozumienie zrzutów ekranu i obrazów dokumentów, wyodrębnianie lub streszczanie tego, co znajduje się na obrazie, odpowiadanie na pytania dotyczące klipu wideo oraz budowanie asystentów przyjmujących mieszany prompt tekstowy i multimedialny wynikają wprost z podanych możliwości. Parametr structured_outputs oznacza, że możesz ukierunkować odpowiedzi na kształty czytelne maszynowo, a tools oraz tool_choice pozwalają wpiąć model w przepływy wywoływania funkcji, dzięki czemu może działać jako krok rozumowania w agencie operującym na wejściach wizualnych.

Wywoływanie go przez api14 działa tak samo jak w przypadku każdego innego modelu na punkcie końcowym zgodnym z OpenAI. Wysyłasz żądanie ukończenia czatu z polem model ustawionym na rekaai/reka-edge, dołączasz swoje wiadomości z treścią tekstową oraz obrazową lub wideo w razie potrzeby i przekazujesz dowolne z obsługiwanych parametrów w treści żądania. Nie jest wymagane osobne SDK ani warstwa tłumacząca, więc istniejący kod klienta OpenAI wymaga jedynie zmiany identyfikatora modelu i dodania ładunku multimedialnego tam, gdzie to właściwe.

Głównym ograniczeniem, o którym trzeba pamiętać, jest kontekst 16 384 tokenów. Jeśli Twoje dane wejściowe obejmują długie wideo, duże dokumenty lub rozbudowaną historię wymiany zdań, ten budżet szybko się zapełni, a model z większym kontekstem może lepiej pasować do zadania. Reka Edge jest najbardziej przydatny, gdy chcesz kompaktowy model multimodalny, który obsługuje rozumienie obrazu i wideo ze strukturalnym wyjściem i wsparciem narzędzi, a nie model wyłącznie tekstowy albo taki, który jest nastawiony na bardzo długie konteksty.