OpenAI: GPT-4 Turbo

GPT-4 Turbo è un modello di generazione di testo di OpenAI, elencato su api14 con l'id del modello openai/gpt-4-turbo. È la più recente variante di GPT-4 Turbo e aggiunge capacità di visione alla linea GPT-4 Turbo. OpenAI lo descrive come supporto per richieste di visione insieme alla modalità JSON e al function calling, e i suoi dati di addestramento arrivano fino a dicembre 2023.

Il modello accetta testo e immagini come input e restituisce testo. Ha una finestra di contesto di 128.000 token, che consente di gestire documenti lunghi, conversazioni estese e più immagini in una singola richiesta. L'output massimo è di 4.096 token, quindi le risposte sono limitate anche quando l'input è grande. Il suo knowledge cutoff è 2023-12-31, il che significa che non ha consapevolezza di eventi successivi a tale data a meno che tu non fornisca le informazioni nel prompt.

Poiché legge immagini oltre che testo, il modello è adatto a compiti come descrivere o estrarre informazioni da screenshot, diagrammi, grafici e documenti scansionati, rispondere a domande su un'immagine caricata, o combinare il contesto visivo con un'istruzione scritta. L'ampia finestra di contesto lo rende una scelta ragionevole per riassumere report lunghi, revisionare file di codice o contratti di dimensioni considerevoli, e mantenere lunghe conversazioni multi turno. Il tool calling e gli output strutturati ti permettono di costruire flussi di lavoro in cui il modello seleziona funzioni o restituisce dati in una forma definita, il che è utile per agenti, pipeline di estrazione e integrazioni che necessitano di risultati leggibili dalla macchina.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello openai/gpt-4-turbo, quindi gli SDK e i client OpenAI esistenti funzionano con il solo cambio di base URL e chiave. I parametri di richiesta supportati sono frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs e top_p. Questo copre i controlli di campionamento, un comportamento quasi deterministico tramite seed, i limiti di token, le sequenze di stop, l'ispezione delle probabilità tramite logprobs e top_logprobs, la formattazione dell'output strutturato, e il function o tool calling con tool_choice.

Due vincoli meritano attenzione quando scegli questo modello. L'output è limitato a 4.096 token, quindi i compiti che richiedono risposte singole molto lunghe potrebbero richiedere la suddivisione in blocchi o un modello con un limite di output più alto. Il knowledge cutoff del 2023-12-31 significa che le domande su eventi più recenti dipendono dal contesto che fornisci. Se il tuo carico di lavoro è solo testuale e non trae beneficio dall'input di immagini, un modello focalizzato sul testo potrebbe essere più adatto, ma per richieste miste di testo e immagini entro un contesto di 128.000 token, questo modello copre i casi comuni.