Google: Gemma 3 12B

Gemma 3 12B es un modelo de generación de texto de Google, lanzado el 13 de marzo de 2025 como parte de la familia Gemma 3. Es la variante 12B ajustada para instrucciones, identificada en api14 como google/gemma-3-12b-it. Gemma 3 marca el movimiento de Google para llevar la multimodalidad a la línea Gemma, por lo que este modelo acepta tanto texto como imágenes como entrada mientras produce texto como salida.

El modelo admite una ventana de contexto de hasta 131072 tokens y puede generar hasta 16384 tokens en una sola respuesta. Su fecha de corte de conocimiento es el 31 de agosto de 2024. Según Google, Gemma 3 maneja más de 140 idiomas y aporta mejoras en matemáticas, razonamiento y comportamiento de chat en comparación con versiones anteriores de Gemma. Debido a que acepta entrada de imágenes junto con texto, puede trabajar con prompts de visión y lenguaje en lugar de solo texto, aunque todo lo que devuelve es texto plano.

Esas capacidades apuntan a un conjunto bastante amplio de usos prácticos. La ventana de contexto larga se adapta a tareas que involucran documentos grandes, como resumir informes extensos, responder preguntas sobre un cuerpo de texto o trabajar con historiales de chat prolongados. La entrada multimodal lo hace adecuado para describir o razonar sobre imágenes, por ejemplo extraer información de capturas de pantalla, diagramas o fotos y devolver una respuesta escrita. Su cobertura multilingüe y sus mejoras en matemáticas y razonamiento lo hacen útil para traducción, resolución estructurada de problemas y asistentes generales. El llamamiento a herramientas y las salidas estructuradas también le permiten integrarse en pipelines que necesitan respuestas legibles por máquina o llamadas a funciones externas.

Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo google/gemma-3-12b-it, por lo que las bibliotecas cliente de OpenAI existentes funcionan cambiando solo la URL base y la clave. Los parámetros de solicitud que admite son frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k y top_p. Esa combinación cubre controles de muestreo, salida determinista mediante seed, secuencias de parada, respuestas JSON o restringidas por esquema a través de response_format y structured_outputs, y uso de herramientas mediante tools y tool_choice.

Algo que hay que tener en cuenta es el techo de salida: las respuestas están limitadas a 16384 tokens aunque la ventana de contexto es mucho mayor, por lo que las generaciones muy largas deben dividirse o continuarse en varias llamadas. La fecha de corte de conocimiento del 31 de agosto de 2024 también significa que el modelo no tiene conocimiento de eventos posteriores a esa fecha a menos que se proporcione la información en el prompt. Si la tarea es solo de texto y no se beneficia de la entrada de imágenes, un modelo de texto más pequeño o más especializado puede ser más barato y rápido, pero para trabajo mixto de texto e imágenes dentro de un contexto largo, este modelo es una opción predeterminada sensata.