OpenAI: o1

OpenAI o1 es un modelo centrado en texto de OpenAI, lanzado el 17 de diciembre de 2024. Pertenece a la familia o1, que OpenAI describe como su familia de modelos más reciente y potente. La idea que define a la serie es que el modelo dedica más tiempo a pensar antes de responder, y fue entrenado con aprendizaje por refuerzo a gran escala para razonar. Si has usado modelos de chat anteriores de OpenAI, la diferencia práctica es que o1 está construido para resolver un problema internamente en lugar de responder de inmediato.

En el lado de la entrada, o1 acepta texto, imágenes y archivos, y devuelve texto. La ventana de contexto es de 200.000 tokens, con una salida máxima de 100.000 tokens, por lo que documentos largos y prompts grandes caben cómodamente junto a una respuesta generada sustancial. Su fecha de corte de conocimiento es el 31 de octubre de 2023, lo que importa cuando tu tarea depende de eventos o versiones de librerías posteriores a esa fecha. Los parámetros de solicitud admitidos incluyen max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning. Los parámetros reasoning e include_reasoning son específicos de esta familia y te permiten controlar o exponer el razonamiento interno del modelo en lugar de tratarlo como una caja negra.

Esas capacidades apuntan a un conjunto bastante específico de casos de uso. El contexto grande y la entrada de archivos se adaptan al análisis de documentos largos, contratos, artículos de investigación o bases de código donde la respuesta depende de detalles repartidos por muchas páginas. La entrada de imágenes extiende esto a diagramas, capturas de pantalla y material escaneado que necesita interpretación junto con el texto. Como el modelo está entrenado para razonar, encaja en problemas de varios pasos: depuración, trabajo matemático, planificación y tareas donde una primera suposición incorrecta es costosa. El soporte de herramientas y salida estructurada lo hacen utilizable dentro de canalizaciones donde el modelo debe llamar a funciones o devolver JSON que el código posterior pueda analizar.

Puedes llamar a o1 a través de la API compatible con OpenAI de api14 usando el id de modelo "openai/o1". Como la interfaz sigue la forma de chat completions de OpenAI, los clientes existentes del SDK de OpenAI generalmente funcionan después de apuntar la URL base a api14 y cambiar a ese id de modelo. Los parámetros de solicitud enumerados arriba son los que debes usar: max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning. Si necesitas muestreo determinista para pruebas, seed está disponible; si necesitas salida legible por máquina, structured_outputs y response_format lo cubren.

Un límite que vale la pena señalar es la fecha de corte de conocimiento del 31 de octubre de 2023, así que cualquier cosa que requiera información actual debe venir de tu prompt, archivos subidos o una llamada a herramienta en lugar del propio conocimiento del modelo. La salida es solo texto, por lo que la generación de imágenes queda fuera de alcance. Si tu carga de trabajo es un chat simple y sensible a la latencia que no se beneficia del razonamiento extendido, un modelo más ligero puede ser una mejor opción.