OpenAI: GPT-4o (2024-08-06)

GPT-4o (2024-08-06) es un modelo de generación de texto de OpenAI, identificado en api14 como openai/gpt-4o-2024-08-06. Es la versión de GPT-4o lanzada el 2024-08-06, y OpenAI la posiciona como una actualización que mejora las salidas estructuradas, incluida la capacidad de proporcionar un esquema JSON en el campo response_format. La "o" del nombre significa "omni", lo que refleja un modelo diseñado para manejar más que texto plano.

El modelo acepta texto, imágenes y archivos como entrada, y produce texto como salida. Tiene una ventana de contexto de 128.000 tokens y puede generar hasta 16.384 tokens de salida por solicitud. Su fecha de corte de conocimiento es 2023-10-31, por lo que cualquier cosa posterior a esa fecha queda fuera de lo que aprendió durante el entrenamiento. Como la entrada puede incluir imágenes y archivos junto con texto, puede trabajar con prompts mixtos en lugar de solo texto.

Esas capacidades apuntan a algunos usos prácticos. Las salidas estructuradas con un esquema JSON proporcionado se adaptan a tareas de extracción y modelado de datos, donde se quiere que el modelo devuelva campos que se puedan analizar directamente. El llamamiento a herramientas encaja con flujos de trabajo estilo agente que necesitan invocar funciones o servicios externos. La entrada de imágenes y archivos admite tareas como leer una captura de pantalla, un diagrama o un documento y responder preguntas sobre ello. La ventana de contexto de 128.000 tokens permite manejar entradas largas, como documentos extensos o conversaciones prolongadas, en una sola solicitud.

Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo openai/gpt-4o-2024-08-06. Los parámetros de solicitud admitidos son frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p y web_search_options. Como la interfaz es compatible con OpenAI, el código existente del SDK de OpenAI generalmente funciona con un cambio de URL base y de id de modelo.

Vale la pena señalar algunos límites al elegir. La salida es solo texto, así que si se necesitan imágenes o audio generados, este modelo no es el adecuado. La fecha de corte de conocimiento de 2023-10-31 significa que los eventos recientes no están cubiertos a menos que se proporcione la información en el prompt o se use web_search_options. Si la carga de trabajo es pequeña y simple, un modelo más ligero puede ser suficiente, mientras que este está orientado a tareas que se benefician de su ventana de contexto, su entrada multimodal y su compatibilidad con salidas estructuradas.