Google: Gemma 3 27B

Google Gemma 3 27B to otwarty model od Google, dystrybuowany w ramach rodziny Gemma i udostępniany na api14 pod identyfikatorem modelu google/gemma-3-27b-it. Należy do kategorii tekstowej, a data wydania przez dostawcę to 12 marca 2025. Granica wiedzy to 31 sierpnia 2024, więc wszystko po tej dacie wykracza poza to, co model widział podczas treningu.

Model przyjmuje dane wejściowe w postaci tekstu i obrazów, a zwraca wyłącznie tekst, co czyni go modelem wizyjno-językowym, a nie czysto tekstowym. Jego okno kontekstowe wynosi 131 072 tokeny, a maksymalna długość odpowiedzi to 117 964 tokeny, więc długie dane wejściowe i długie generowania są możliwe w ramach tego samego żądania. Google opisuje Gemma 3 jako model obsługujący dane wejściowe wizyjno-językowe, radzący sobie z oknami kontekstowymi do 128k tokenów, rozumiejący ponad 140 języków i oferujący ulepszoną matematykę, rozumowanie oraz zachowanie w czacie w porównaniu z wcześniejszymi wydaniami Gemma.

Te możliwości wskazują na kilka praktycznych zastosowań. Rozumienie dokumentów i zrzutów ekranu pasuje naturalnie, ponieważ można przekazać obraz wraz z poleceniem tekstowym i otrzymać odpowiedź w formie tekstu. Praca z długim kontekstem, taka jak streszczanie dużych plików, przeglądanie długich wątków lub odpowiadanie na pytania dotyczące dużego zbioru tekstu, jest w wielu przypadkach możliwa bez dzielenia na fragmenty. Aplikacje wielojęzyczne korzystają z raportowanego pokrycia językowego. Ekstrakcja strukturalna i asystenci czatu są również rozsądne, biorąc pod uwagę listę parametrów poniżej. Zadania rozumowania i matematyki są obsługiwane, choć podane tu fakty nie zawierają liczb benchmarkowych, więc należy oceniać na własnych danych.

Wywołujesz go przez kompatybilne z OpenAI API api14, używając identyfikatora modelu google/gemma-3-27b-it, więc istniejące zestawy SDK i klienty OpenAI działają po zmianie bazowego adresu URL. Obsługiwane parametry żądania to frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs i top_p. Wywoływanie narzędzi i dane wyjściowe strukturalne są dostępne, co obejmuje wywoływanie funkcji i odpowiedzi w kształcie JSON. Użyj seed dla powtarzalności oraz logprobs z top_logprobs, jeśli potrzebujesz pewności na poziomie tokenów.

Warto zauważyć kilka ograniczeń. Dane wyjściowe są wyłącznie tekstem, więc model nie może generować obrazów, mimo że je odczytuje. Granica wiedzy z 31 sierpnia 2024 oznacza, że niedawne wydarzenia wymagają wyszukiwania lub kontekstu w poleceniu. Jeśli Twoje obciążenie jest wyłącznie tekstowe i nie potrzebuje wizji, mniejszy model tekstowy może być tańszy i szybszy; jeśli potrzebujesz generowania obrazów lub dźwięku, poszukaj gdzie indziej.