Google: Gemma 3 4B

Google: Gemma 3 4B to model generowania tekstu od Google, wydany 13 marca 2025. Należy do rodziny Gemma 3, którą Google opisuje jako wprowadzającą multimodalność, co oznacza, że modele te przyjmują dane wejściowe w postaci obrazu i języka, a nie tylko tekstu. Liczba 4B w nazwie odnosi się do klasy rozmiaru modelu w tej rodzinie, a sufiks it oznacza wariant dostrojony do instrukcji, więc jest zbudowany do wykonywania poleceń i prowadzenia rozmów, a nie tylko kontynuowania surowego tekstu.

Model przyjmuje dane wejściowe w postaci tekstu i obrazu oraz generuje dane wyjściowe w postaci tekstu. Jego okno kontekstu wynosi 131072 tokenów, a maksymalna długość danych wyjściowych to 16384 tokenów. Google podaje, że obsługuje okna kontekstu do 128k tokenów, rozumie ponad 140 języków i oferuje ulepszone możliwości w zakresie matematyki, rozumowania i czatu w porównaniu z wcześniejszymi generacjami Gemma. Data odcięcia wiedzy to 31 sierpnia 2024, więc wszystko po tej dacie wykracza poza to, czego model nauczył się podczas treningu. Ponieważ dane wejściowe mogą zawierać obrazy, polecenia mogą łączyć zrzuty ekranu, zdjęcia, diagramy lub zeskanowane strony z pisemnymi instrukcjami.

Te możliwości wskazują na dość szeroki zestaw praktycznych zastosowań. Długie okno kontekstu nadaje się do pracy z dużymi dokumentami, takimi jak streszczanie długich raportów, odpowiadanie na pytania na podstawie całej bazy kodu lub umowy albo utrzymywanie spójnej długiej rozmowy bez przycinania historii. Multimodalne dane wejściowe czynią go użytecznym do zadań takich jak opisywanie lub wyodrębnianie informacji z obrazów, czytanie wykresów i diagramów albo obsługiwanie obrazów dokumentów wraz z pytaniami tekstowymi. Obsługa wielu języków, ponad 140, pasuje do tłumaczeń, wersji roboczych lokalizacji i czatu dla klientów na wielu rynkach. Zachowanie czatu dostrojone do instrukcji oraz ulepszone rozumowanie i matematyka czynią go rozsądnym wyborem dla asystentów, strukturalnego wyodrębniania danych i rozwiązywania problemów krok po kroku, gdy zadanie nie wymaga największego dostępnego modelu.

Model wywołujesz przez API zgodne z OpenAI w api14, używając identyfikatora modelu "google/gemma-3-4b-it". Ponieważ interfejs jest zgodny ze strukturą chat completions OpenAI, wysyłasz żądanie do punktu końcowego chat completions z tym identyfikatorem w polu model i swoimi wiadomościami w tablicy messages, w tym treścią obrazu, gdy jest to istotne. Model obsługuje następujące parametry żądania: frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k i top_p. Structured outputs i response_format są przydatne, gdy potrzebujesz w odpowiedzi JSON lub innego zdefiniowanego kształtu, a seed pomaga, gdy chcesz uzyskać bardziej powtarzalne próbkowanie.

Jednym ograniczeniem wartym uwagi jest data odcięcia wiedzy 31 sierpnia 2024, więc pytania o późniejsze wydarzenia nie będą odpowiadane wyłącznie na podstawie danych treningowych. Rozmiar 4B oznacza również, że plasuje się poniżej większych wariantów Gemma 3, więc jeśli zadanie wymaga najsilniejszego rozumowania lub najszerszej wiedzy ogólnej, większy model może pasować lepiej. Do pracy z długim kontekstem, wielojęzycznej i uwzględniającej obrazy w mniejszej skali ten model jest rozsądnym punktem wyjścia.