Google: Gemma 4 31B

Google: Gemma 4 31B는 Google의 instruction-tuned 모델이며, api14에 모델 id google/gemma-4-31b-it로 등록되어 있습니다. Google DeepMind의 Gemma 제품군에 속하며, 제공자 설명에서는 30.7B dense multimodal 모델로 식별합니다. api14에서의 주요 카테고리는 text이고, 제공자는 Google입니다. 게이트웨이에서 모델을 선택하는 경우, 이 모델은 가장 큰 호스팅 옵션이 아니라 중간 규모의 dense 범위에 위치하며, 이는 워크로드의 지연 시간과 처리량 대비 성능을 저울질할 때 관련이 있습니다.

이 모델은 image, text, video를 입력으로 받고 text만 반환합니다. 이러한 조합은 미디어 생성기가 아니라 multimodal 리더로 만들어 줍니다. 문서, 스크린샷, 사진 또는 비디오를 프롬프트와 함께 보낼 수 있고, 산문으로 답변합니다. 컨텍스트 윈도우는 262144 토큰으로, 긴 문서, 장시간 대화 또는 상당한 크기의 미디어 트랜스크립트를 단일 요청에 담기에 충분히 큽니다. 최대 출력은 16384 토큰이므로 응답은 입력 용량보다 훨씬 낮게 제한됩니다. 또한 reasoning 및 include_reasoning 파라미터를 통해 노출되는 구성 가능한 thinking 또는 reasoning 모드를 지원하며, 이를 통해 모델이 답변 전에 문제를 풀기 위해 토큰을 사용할지 결정할 수 있습니다.

이러한 기능은 상당히 특정한 용도 집합을 가리킵니다. 긴 컨텍스트 multimodal 읽기가 가장 명확한 용도입니다. 스캔한 문서, 이미지로 렌더링한 PDF 또는 스크린샷에서 구조화된 정보를 추출하고, 요약하거나 질문에 답하는 것입니다. 비디오 입력은 이를 확장하여 영상 설명, 이벤트 추출 또는 클립에서 일어나는 일에 대한 질문 답변 같은 작업에 사용할 수 있습니다. reasoning 모드는 직접 답변이 신뢰할 수 없는 다단계 분석에 적합하며, tool 및 function 지원 덕분에 외부 서비스를 호출하는 에이전트의 의사 결정 계층으로 사용할 수 있습니다. structured outputs와 response_format을 사용하면 결과가 다른 시스템에 공급될 때 응답을 JSON 또는 스키마로 제한할 수 있습니다.

api14를 통해 호출하는 방식은 API가 OpenAI 호환되므로 게이트웨이의 다른 모델과 동일합니다. model 필드를 google/gemma-4-31b-it로 설정하고 메시지를 표준 형식으로 담아 chat completion 요청을 보내며, 관련된 경우 image 또는 video 콘텐츠 파트를 포함합니다. 지원되는 파라미터는 일반적인 샘플링 제어(temperature, top_p, top_k, min_p, seed, stop, frequency_penalty, presence_penalty, repetition_penalty), 출력 제어(max_tokens, response_format, structured_outputs), 검사 옵션(logprobs, top_logprobs, logit_bias) 및 도구 사용(tools, tool_choice)을 포함합니다. Reasoning 동작은 reasoning 및 include_reasoning으로 제어합니다.

염두에 둘 실용적인 제약 하나는 출력 상한입니다. 응답당 16384 토큰이며, 이는 262144 토큰 입력 윈도우에 비해 작습니다. 작업이 한 번에 매우 긴 문서를 생성하는 것이라면 더 큰 출력 허용량을 가진 모델이 더 적합할 수 있습니다. 마찬가지로 audio 입력이나 비텍스트 출력이 필요하다면 이 모델은 이를 지원하지 않습니다. 입력 모달리티가 image, text, video이고 출력은 text뿐이기 때문입니다. 긴 컨텍스트 multimodal 이해, reasoning 비중이 큰 분석 및 도구 기반 에이전트에는 합리적인 선택입니다.