Google: Gemma 3 4B

Google: Gemma 3 4B는 2025년 3월 13일에 출시된 Google의 텍스트 생성 모델입니다. 이는 Gemma 3 제품군에 속하며, Google은 이 제품군이 멀티모달리티를 도입한다고 설명합니다. 즉, 이러한 모델은 텍스트만이 아니라 비전과 언어 입력을 받아들입니다. 이름에서 4B는 해당 제품군 내 모델의 크기 등급을 나타내고, it 접미사는 명령 튜닝된 변형을 표시하므로, 원시 텍스트를 이어 쓰는 것만이 아니라 프롬프트를 따르고 대화를 유지하도록 만들어졌습니다.

이 모델은 텍스트와 이미지 입력을 받아들이고 텍스트 출력을 생성합니다. 컨텍스트 윈도우는 131072 토큰이고, 최대 출력 길이는 16384 토큰입니다. Google은 이 모델이 최대 128k 토큰의 컨텍스트 윈도우를 처리하고, 140개 이상의 언어를 이해하며, 이전 Gemma 세대와 비교해 향상된 수학, 추론, 채팅 기능을 제공한다고 밝힙니다. 지식 컷오프는 2024년 8월 31일이므로, 그 이후의 내용은 모델이 학습 중에 배운 범위 밖입니다. 입력에 이미지가 포함될 수 있으므로, 프롬프트는 스크린샷, 사진, 다이어그램 또는 스캔한 페이지를 서면 지침과 결합할 수 있습니다.

이러한 기능은 상당히 폭넓은 실용적 용도를 가리킵니다. 긴 컨텍스트 윈도우는 긴 보고서 요약, 전체 코드베이스나 계약서에 대해 질문에 답하기, 기록을 잘라내지 않고 긴 대화를 일관되게 유지하기 같은 대규모 문서 작업에 적합합니다. 멀티모달 입력은 이미지에서 정보를 설명하거나 추출하기, 차트와 다이어그램 읽기, 텍스트 질문과 함께 문서 이미지 처리하기 같은 작업에 유용합니다. 140개 이상의 언어에 대한 다국어 지원은 번역, 현지화 초안, 여러 시장에서의 고객 대응 채팅에 적합합니다. 명령 튜닝된 채팅 동작과 향상된 추론 및 수학은 사용 가능한 가장 큰 모델을 요구하지 않는 작업에서 어시스턴트, 구조화된 추출, 단계별 문제 해결에 합리적으로 적합합니다.

이 모델은 모델 id "google/gemma-3-4b-it"를 사용해 api14의 OpenAI 호환 API를 통해 호출합니다. 인터페이스가 OpenAI 채팅 완성 형태를 따르므로, model 필드에 해당 id를 넣고 messages 배열에 메시지를 넣어 채팅 완성 엔드포인트로 요청을 보내며, 관련된 경우 이미지 콘텐츠도 포함합니다. 이 모델은 다음 요청 파라미터를 지원합니다: frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k, top_p. 구조화된 출력과 response_format은 JSON 또는 다른 정의된 형태를 반환받아야 할 때 유용하고, seed는 더 반복 가능한 샘플링을 원할 때 도움이 됩니다.

주목할 만한 한 가지 한계는 2024년 8월 31일의 지식 컷오프이므로, 그 이후 사건에 대한 질문은 학습 데이터만으로는 답변되지 않습니다. 또한 4B 크기는 더 큰 Gemma 3 변형들보다 아래에 위치하므로, 작업에 가장 강력한 추론이나 가장 넓은 일반 지식이 필요하다면 더 큰 모델이 더 잘 맞을 수 있습니다. 더 작은 규모에서 긴 컨텍스트, 다국어, 이미지 인식 작업에는 이 모델이 합리적인 시작점입니다.