OpenAI: GPT-4o (2024-08-06)

GPT-4o (2024-08-06) è un modello di generazione di testo di OpenAI, identificato su api14 come openai/gpt-4o-2024-08-06. È la versione di GPT-4o rilasciata il 2024-08-06, e OpenAI la presenta come un aggiornamento che migliora gli structured outputs, inclusa la capacità di fornire uno schema JSON nel campo response_format. La "o" nel nome sta per "omni", a riflettere un modello progettato per gestire più del semplice testo.

Il modello accetta testo, immagini e file come input, e produce testo come output. Ha una context window di 128.000 token e può generare fino a 16.384 token di output per richiesta. Il suo knowledge cutoff è 2023-10-31, quindi qualsiasi cosa successiva a tale data è al di fuori di ciò che ha appreso durante l'addestramento. Poiché l'input può includere immagini e file insieme al testo, può lavorare con prompt misti anziché solo testo.

Queste capacità indicano alcuni usi pratici. Gli structured outputs con uno schema JSON fornito si adattano a compiti di estrazione e modellazione dei dati, dove si desidera che il modello restituisca campi che è possibile analizzare direttamente. Il tool calling si adatta a flussi di lavoro in stile agente che devono invocare funzioni o servizi esterni. L'input di immagini e file supporta compiti come leggere uno screenshot, un diagramma o un documento e rispondere a domande al riguardo. La context window di 128.000 token consente di gestire input lunghi, come documenti estesi o conversazioni prolungate, in un'unica richiesta.

Si chiama il modello tramite l'API compatibile con OpenAI di api14 usando il model id openai/gpt-4o-2024-08-06. I parametri di richiesta supportati sono frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p e web_search_options. Poiché l'interfaccia è compatibile con OpenAI, il codice esistente dell'SDK OpenAI generalmente funziona con un cambio di base URL e model id.

Vale la pena notare alcuni limiti quando si sceglie. L'output è solo testo, quindi se servono immagini o audio generati, questo modello non è adatto. Il knowledge cutoff del 2023-10-31 significa che gli eventi recenti non sono coperti a meno che non si forniscano le informazioni nel prompt o non si usi web_search_options. Se il proprio carico di lavoro è piccolo e semplice, un modello più leggero può essere sufficiente, mentre questo è mirato a compiti che traggono vantaggio dalla sua context window, dall'input multimodale e dal supporto agli structured output.