OpenAI: GPT-4 Turbo

GPT-4 Turbo es un modelo de generación de texto de OpenAI, listado en api14 bajo el id de modelo openai/gpt-4-turbo. Es la variante más reciente de GPT-4 Turbo y añade capacidades de visión a la línea GPT-4 Turbo. OpenAI lo describe como compatible con solicitudes de visión junto con el modo JSON y el llamamiento a funciones, y sus datos de entrenamiento llegan hasta diciembre de 2023.

El modelo acepta texto e imágenes como entrada y devuelve texto. Tiene una ventana de contexto de 128.000 tokens, lo que permite manejar documentos largos, conversaciones extensas y múltiples imágenes en una sola solicitud. La salida máxima es de 4.096 tokens, por lo que las respuestas están acotadas incluso cuando la entrada es grande. Su fecha de corte de conocimiento es 2023-12-31, lo que significa que no tiene conocimiento de eventos posteriores a esa fecha a menos que proporciones la información en el prompt.

Como lee imágenes además de texto, el modelo se adapta a tareas como describir o extraer información de capturas de pantalla, diagramas, gráficos y documentos escaneados, responder preguntas sobre una imagen subida, o combinar contexto visual con una instrucción escrita. La gran ventana de contexto lo hace adecuado para resumir informes largos, revisar archivos de código o contratos considerables, y mantener conversaciones largas de varios turnos. El llamamiento a herramientas y las salidas estructuradas te permiten construir flujos de trabajo donde el modelo selecciona funciones o devuelve datos en una forma definida, lo cual es útil para agentes, canalizaciones de extracción e integraciones que necesitan resultados legibles por máquina.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo openai/gpt-4-turbo, por lo que los SDK y clientes de OpenAI existentes funcionan con solo un cambio de URL base y clave. Los parámetros de solicitud admitidos son frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs y top_p. Eso cubre controles de muestreo, comportamiento casi determinista mediante seed, límites de tokens, secuencias de parada, inspección de probabilidades mediante logprobs y top_logprobs, formato de salida estructurada, y llamamiento a funciones o herramientas con tool_choice.

Dos restricciones merecen mención al elegir este modelo. La salida está limitada a 4.096 tokens, por lo que las tareas que necesitan respuestas únicas muy largas pueden requerir fragmentación o un modelo con un límite de salida mayor. La fecha de corte de conocimiento de 2023-12-31 significa que las preguntas sobre eventos más recientes dependen del contexto que proporciones. Si tu carga de trabajo es solo texto y no se beneficia de la entrada de imágenes, un modelo centrado en texto puede ser una opción más sencilla, pero para solicitudes mixtas de texto e imágenes dentro de un contexto de 128.000 tokens, este modelo cubre los casos comunes.