OpenAI: o1-pro

OpenAI o1-pro is een tekstmodel van OpenAI, onderdeel van de o1-serie. OpenAI beschrijft de o1-familie als modellen die zijn getraind met reinforcement learning om na te denken voordat ze antwoorden en om complexe redeneringen uit te voeren, en o1-pro is de variant die meer compute gebruikt om harder na te denken en zijn antwoorden te geven. Het valt in de tekstcategorie en werd door de provider uitgebracht op 2025-03-19.

Het model accepteert tekst, afbeeldingen en bestanden als invoer, en het retourneert tekst. Het contextvenster is 200.000 tokens, en de maximale uitvoer is 100.000 tokens. De knowledge cutoff is 2023-10-31. Omdat het redeneert voordat het reageert, kunnen reacties langer duren en meer tokens verbruiken dan een standaard chatmodel, wat het overwegen waard is wanneer je ontwerpt rond latency en uitvoerbudgetten.

De combinatie van een groot contextvenster, invoer van bestanden en afbeeldingen, en weloverwogen redeneren wijst op werk waarbij het model veel materiaal moet verwerken voordat het antwoordt. Voorbeelden zijn het analyseren van lange documenten of codebases die als bestanden worden aangeleverd, het doorwerken van meerstapsproblemen waarbij tussenliggende redeneringen van belang zijn, het extraheren van gestructureerde resultaten uit gemengde tekst- en afbeeldingsinvoer, en taken die baat hebben bij het vermogen van het model om een probleem vanuit meerdere invalshoeken te bekijken voordat het een antwoord vastlegt. De context van 200.000 tokens maakt het praktisch om substantieel bronmateriaal in een enkele aanvraag mee te sturen in plaats van het op te delen.

Je roept o1-pro aan via api14 met de OpenAI-compatible API met het model id "openai/o1-pro". De ondersteunde aanvraagparameters zijn include_reasoning, max_tokens, reasoning, response_format, seed en structured_outputs. include_reasoning en reasoning hebben betrekking op het denkgedrag van het model, response_format en structured_outputs laten je de vorm van de geretourneerde tekst beperken, max_tokens begrenst de uitvoer, en seed ondersteunt reproduceerbare sampling waar de backend dit respecteert.

Omdat redeneren plaatsvindt voordat het antwoord komt, is o1-pro niet de voor de hand liggende keuze voor eenvoudige, latencygevoelige chat waar een lichter tekstmodel zou volstaan. De knowledge cutoff van 2023-10-31 betekent ook dat het model geen weet heeft van gebeurtenissen na die datum, dus alles wat tijdsgevoelig is moet in de prompt worden aangeleverd of apart worden opgehaald. Uitvoer is alleen tekst, dus als je gegenereerde afbeeldingen of audio nodig hebt, heb je een ander model nodig.