OpenAI: GPT-4o-mini

GPT-4o-mini es un modelo de generación de texto de OpenAI, lanzado el 18 de julio de 2024. Se sitúa en la línea de modelos pequeños de OpenAI, posicionado como el sucesor de GPT-4o en ese nivel, y está diseñado para trabajo de texto de propósito general en lugar de una única tarea específica. Si estás eligiendo un modelo predeterminado para una aplicación, este es el tipo de modelo que está pensado para manejar una amplia gama de solicitudes cotidianas.

El modelo acepta texto, imágenes y archivos como entrada, y devuelve solo texto. Su ventana de contexto es de 128.000 tokens, y la salida máxima es de 16.384 tokens. El corte de conocimiento es el 31 de octubre de 2023, por lo que cualquier cosa posterior a esa fecha queda fuera de lo que el modelo aprendió durante el entrenamiento. Dado que las entradas de imagen y archivo son compatibles junto con el texto, puedes enviar contenido mixto en una sola solicitud y recibir una respuesta de texto, lo que mantiene la integración sencilla si tu aplicación ya funciona con prompts de texto.

Esas capacidades apuntan a algunos usos prácticos. El análisis de documentos y archivos encaja de forma natural, ya que puedes pasar un archivo y pedir un resumen, una extracción o respuesta a preguntas sobre su contenido. La comprensión de imágenes cubre tareas como describir una captura de pantalla, leer un gráfico o extraer detalles estructurados de una foto. El chat general, la redacción, la clasificación, la reescritura y la asistencia con código funcionan solo con texto. La gran ventana de contexto significa que documentos largos o conversaciones de varios turnos pueden manejarse sin dividirlos en muchas solicitudes pequeñas, y el límite de salida de 16.384 tokens da espacio para respuestas generadas más largas.

Llamas al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "openai/gpt-4o-mini". Como la interfaz sigue el formato de OpenAI, los SDK y clientes de OpenAI existentes funcionan con solo un cambio de URL base y clave. El modelo admite un amplio conjunto de parámetros de solicitud: frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p y web_search_options. El llamado a herramientas y las salidas estructuradas están disponibles, por lo que puedes conectar el modelo a flujos de llamado a funciones o forzar respuestas a un esquema. El parámetro seed ayuda con la reproducibilidad, y web_search_options permite que una solicitud se apoye en la búsqueda.

Dos límites merecen mención antes de que te comprometas. El corte de conocimiento del 31 de octubre de 2023 significa que el modelo no tiene conocimiento incorporado de eventos posteriores, por lo que las preguntas sensibles al tiempo necesitan recuperación o búsqueda en lugar de depender solo del modelo. La salida es solo texto, así que si necesitas imágenes o audio generados, este modelo no es la elección correcta. Dentro de esos límites, es un valor predeterminado razonable para cargas de trabajo de texto y comprensión de imágenes.