OpenAI: o1

OpenAI o1 è un modello incentrato sul testo di OpenAI, rilasciato il 17 dicembre 2024. Appartiene alla famiglia o1, che OpenAI descrive come la sua famiglia di modelli più recente e più potente. L'idea che definisce la serie è che il modello dedica più tempo a riflettere prima di rispondere, ed è stato addestrato con apprendimento per rinforzo su larga scala per ragionare. Se hai usato i precedenti modelli di chat di OpenAI, la differenza pratica è che o1 è costruito per elaborare un problema internamente invece di rispondere immediatamente.

Sul lato input, o1 accetta testo, immagini e file, e restituisce testo. La finestra di contesto è di 200.000 token, con un output massimo di 100.000 token, quindi documenti lunghi e prompt di grandi dimensioni rientrano comodamente insieme a una risposta generata sostanziosa. Il suo knowledge cutoff è il 31 ottobre 2023, il che conta quando il tuo compito dipende da eventi o versioni di librerie successive a quella data. I parametri di richiesta supportati includono max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning. I parametri reasoning e include_reasoning sono specifici di questa famiglia e ti permettono di controllare o far emergere il ragionamento interno del modello invece di trattarlo come una scatola nera.

Queste capacità indicano un insieme piuttosto specifico di casi d'uso. Il contesto ampio e l'input di file si adattano all'analisi di documenti lunghi, contratti, articoli di ricerca o basi di codice in cui la risposta dipende da dettagli distribuiti su molte pagine. L'input di immagini estende questo a diagrammi, screenshot e materiale scansionato che devono essere interpretati insieme al testo. Poiché il modello è addestrato a ragionare, si adatta a problemi a più passaggi: debug, lavoro matematico, pianificazione e compiti in cui una prima ipotesi sbagliata è costosa. Il supporto per tool e output strutturato lo rende utilizzabile all'interno di pipeline in cui il modello deve chiamare funzioni o restituire JSON che il codice a valle può analizzare.

Chiami o1 tramite l'API compatibile con OpenAI di api14 usando l'id del modello "openai/o1". Poiché l'interfaccia segue la forma delle chat completions di OpenAI, i client SDK OpenAI esistenti in genere funzionano dopo che hai puntato la base URL su api14 e hai sostituito quell'id del modello. I parametri di richiesta elencati sopra sono quelli su cui fare affidamento: max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning. Se ti serve un campionamento deterministico per i test, seed è disponibile; se ti serve un output leggibile dalla macchina, structured_outputs e response_format coprono questo caso.

Un limite da notare è il knowledge cutoff del 31 ottobre 2023, quindi qualsiasi cosa richieda informazioni attuali deve provenire dal tuo prompt, da file caricati o da una chiamata a un tool invece che dalla conoscenza del modello stesso. L'output è solo testo, quindi la generazione di immagini è fuori ambito. Se il tuo carico di lavoro è una chat semplice e sensibile alla latenza che non trae beneficio da un ragionamento esteso, un modello più leggero potrebbe essere più adatto.