OpenAI: o1-pro

OpenAI o1-pro es un modelo de texto de OpenAI, parte de la serie o1. OpenAI describe la familia o1 como modelos entrenados con aprendizaje por refuerzo para pensar antes de responder y realizar razonamientos complejos, y o1-pro es la variante que utiliza más cómputo para pensar con mayor profundidad y proporcionar sus respuestas. Se sitúa en la categoría de texto y fue lanzado por el proveedor el 2025-03-19.

El modelo acepta texto, imágenes y archivos como entrada, y devuelve texto. Su ventana de contexto es de 200,000 tokens, y la salida máxima es de 100,000 tokens. El conocimiento de corte es 2023-10-31. Debido a que razona antes de responder, las respuestas pueden tardar más y consumir más tokens que un modelo de chat estándar, lo cual vale la pena tener en cuenta al diseñar en torno a la latencia y los presupuestos de salida.

La combinación de una ventana de contexto grande, entrada de archivos e imágenes, y razonamiento deliberado apunta a trabajos donde el modelo necesita digerir mucho material antes de responder. Los ejemplos incluyen analizar documentos extensos o bases de código proporcionadas como archivos, resolver problemas de varios pasos donde el razonamiento intermedio importa, extraer resultados estructurados a partir de entradas mixtas de texto e imágenes, y tareas que se benefician de que el modelo pueda examinar un problema desde varios ángulos antes de comprometerse con una respuesta. El contexto de 200,000 tokens hace práctico pasar material de origen sustancial en una sola solicitud en lugar de dividirlo en fragmentos.

Se llama a o1-pro a través de api14 usando la API compatible con OpenAI con el id de modelo "openai/o1-pro". Los parámetros de solicitud admitidos son include_reasoning, max_tokens, reasoning, response_format, seed y structured_outputs. include_reasoning y reasoning se relacionan con el comportamiento de pensamiento del modelo, response_format y structured_outputs permiten restringir la forma del texto devuelto, max_tokens limita la salida, y seed admite muestreo reproducible donde el backend lo respeta.

Debido a que el razonamiento ocurre antes de la respuesta, o1-pro no es la opción obvia para chat simple y sensible a la latencia donde un modelo de texto más ligero sería suficiente. El conocimiento de corte del 2023-10-31 también significa que el modelo no tiene conocimiento de eventos posteriores a esa fecha, por lo que cualquier cosa sensible al tiempo necesita ser proporcionada en el prompt o recuperada por separado. La salida es solo texto, así que si necesitas imágenes o audio generados, necesitarás un modelo diferente.