OpenAI: o3 (batch)

OpenAI o3 (batch) è un modello testuale di OpenAI, offerto qui con l'id modello openai/o3:batch. Appartiene alla famiglia o3, che OpenAI descrive come un modello ben bilanciato e potente in tutti i domini, che stabilisce un nuovo standard per attività di matematica, scienza, coding e ragionamento visivo, e che si comporta bene anche nella scrittura tecnica e nel seguire istruzioni. La variante batch è lo stesso modello sottostante esposto tramite un endpoint in stile batch su api14, il che lo rende adatto a carichi di lavoro in cui puoi inviare il lavoro e raccogliere i risultati invece di aver bisogno di ogni risposta in linea.

Il modello accetta input di immagini, testo e file e restituisce testo. La sua finestra di contesto è di 200.000 token, e l'output massimo è di 100.000 token, quindi input lunghi e generazioni lunghe sono entrambi possibili nella stessa richiesta. Il knowledge cutoff è 2024-06-30, il che conta quando il tuo compito dipende da eventi recenti o materiale appena pubblicato. Poiché accetta immagini e file insieme al testo, può lavorare su input misti come un documento più una domanda, o uno screenshot più un'istruzione, senza un modello di preprocessing separato.

Queste capacità indicano un insieme piuttosto ampio di usi pratici. Il lavoro ad alto contenuto di ragionamento come matematica a più passaggi, risoluzione di problemi scientifici e generazione o debugging di codice è un adattamento naturale, e lo stesso vale per il ragionamento visivo su diagrammi, grafici o screenshot. La scrittura tecnica e il seguire istruzioni lo rendono utilizzabile per documentazione strutturata, stesura di specifiche e attività in cui hai bisogno che il modello rispetti un formato. Il contesto di 200.000 token aiuta con report lunghi, file sorgente di grandi dimensioni o input multi documento, e il tetto di output di 100.000 token supporta la generazione long form in una singola chiamata.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id modello openai/o3:batch. I parametri di richiesta supportati sono include_reasoning, max_tokens, reasoning, response_format, seed, structured_outputs, tool_choice e tools. In pratica questo significa che puoi controllare il comportamento di ragionamento e se il ragionamento viene esposto, limitare la lunghezza dell'output con max_tokens, richiedere output strutturato o in stile JSON tramite response_format e structured_outputs, rendere le esecuzioni riproducibili con seed, e definire il function calling con tools e tool_choice.

Un limite da notare è il knowledge cutoff del 2024-06-30, quindi se la tua applicazione necessita di informazioni attuali dovrai fornirle nel prompt o tramite tools. Se il tuo compito è puramente testuale e non trae beneficio da ragionamento, input di immagini o file, un modello testuale più leggero potrebbe essere una scelta migliore.