OpenAI: GPT-4o (2024-05-13)

GPT-4o (2024-05-13) è un modello testuale di OpenAI. La "o" sta per "omni", e questa release è datata 13 maggio 2024. È progettato per accettare input sia testuali che di immagini restituendo output testuali, e OpenAI lo descrive come in grado di mantenere il livello di intelligenza di GPT-4 Turbo pur essendo più veloce. Se stai scegliendo un modello OpenAI generico per una nuova integrazione, questa è la versione identificata dal model id openai/gpt-4o-2024-05-13.

Sugli input, il modello accetta testo, immagini e file, e produce solo testo. La finestra di contesto è di 128.000 token, quindi documenti lunghi, file di codice di grandi dimensioni o conversazioni estese possono essere forniti in una singola richiesta. L'output massimo è di 4.096 token, il che conta quando pianifichi generazioni lunghe, poiché la risposta verrà troncata a quel punto indipendentemente da quanto spazio rimane nel contesto. Il suo knowledge cutoff è il 31 ottobre 2023, quindi qualsiasi cosa successiva a quella data deve provenire dal prompt, da strumenti o da una ricerca web piuttosto che dalla formazione del modello stesso.

Queste capacità indicano alcuni usi pratici. Poiché legge immagini oltre che testo, si adatta a compiti come l'estrazione di dati strutturati da screenshot, pagine scansionate o diagrammi, la descrizione di contenuti visivi, o la risposta a domande su un grafico insieme a un brief scritto. La grande finestra di contesto lo rende utilizzabile per il question answering su documenti, il riepilogo di report lunghi e la revisione di codebase considerevoli in un'unica passata. Il supporto per strumenti e output strutturati lo rende una scelta ragionevole per workflow in stile agente e per pipeline in cui il modello deve restituire JSON che un altro servizio analizza.

Tramite api14 lo chiami con il model id openai/gpt-4o-2024-05-13 usando l'API compatibile con OpenAI, quindi gli SDK e i client OpenAI esistenti funzionano con un cambio di base URL e chiave. I parametri di richiesta supportati sono frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p e web_search_options. Tools e tool_choice coprono il function calling, response_format e structured_outputs coprono forme di output vincolate, e seed supporta un campionamento più riproducibile.

Due limiti meritano di essere considerati in fase di pianificazione. Il tetto di output di 4.096 token è modesto per la scrittura long form, quindi i compiti che richiedono risposte singole molto lunghe potrebbero adattarsi meglio a un altro modello, e il knowledge cutoff di ottobre 2023 significa che le domande sensibili al tempo dovrebbero essere gestite con strumenti o ricerca web invece di fare affidamento sulla memoria del modello.