OpenAI: GPT-4o (2024-05-13)

GPT-4o (2024-05-13) es un modelo de texto de OpenAI. La "o" significa "omni", y esta versión está fechada el 13 de mayo de 2024. Está diseñado para aceptar entradas tanto de texto como de imagen mientras devuelve salidas de texto, y OpenAI lo describe como capaz de mantener el nivel de inteligencia de GPT-4 Turbo siendo más rápido. Si estás eligiendo un modelo OpenAI de propósito general para una nueva integración, esta es la versión identificada por el id de modelo openai/gpt-4o-2024-05-13.

En cuanto a las entradas, el modelo acepta texto, imágenes y archivos, y produce únicamente texto. La ventana de contexto es de 128.000 tokens, por lo que documentos largos, archivos de código extensos o conversaciones prolongadas pueden enviarse en una sola solicitud. La salida máxima es de 4.096 tokens, lo cual importa cuando planificas generaciones largas, ya que la respuesta se truncará en ese punto independientemente de cuánto espacio quede en el contexto. Su fecha de corte de conocimiento es el 31 de octubre de 2023, por lo que cualquier cosa posterior a esa fecha tiene que provenir del prompt, de herramientas o de una búsqueda web en lugar del propio entrenamiento del modelo.

Esas capacidades apuntan a algunos usos prácticos. Como lee imágenes además de texto, es adecuado para tareas como extraer datos estructurados de capturas de pantalla, páginas escaneadas o diagramas, describir contenido visual o responder preguntas sobre un gráfico junto con un brief escrito. La gran ventana de contexto lo hace viable para responder preguntas sobre documentos, resumir informes largos y revisar bases de código considerables en una sola pasada. El soporte de herramientas y salidas estructuradas lo convierte en una opción razonable para flujos de trabajo estilo agente y para pipelines donde el modelo debe devolver JSON que otro servicio analiza.

A través de api14 lo llamas con el id de modelo openai/gpt-4o-2024-05-13 usando la API compatible con OpenAI, por lo que los SDK y clientes de OpenAI existentes funcionan con un cambio de URL base y clave. Los parámetros de solicitud soportados son frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p y web_search_options. Tools y tool_choice cubren el llamado a funciones, response_format y structured_outputs cubren formas de salida restringidas, y seed permite un muestreo más reproducible.

Vale la pena planificar en torno a dos límites. El techo de salida de 4.096 tokens es modesto para escritura de formato largo, por lo que las tareas que necesitan respuestas únicas muy extensas pueden adaptarse mejor a otro modelo, y la fecha de corte de conocimiento de octubre de 2023 significa que las preguntas sensibles al tiempo deben manejarse con herramientas o búsqueda web en lugar de confiar en la memoria del modelo.