OpenAI: GPT-4o-mini

GPT-4o-mini è un modello di generazione di testo di OpenAI, rilasciato il 18 luglio 2024. Si colloca nella linea di modelli piccoli di OpenAI, posizionato come il successore di GPT-4o in quel livello, ed è progettato per il lavoro testuale di uso generale piuttosto che per un singolo compito ristretto. Se stai scegliendo un modello predefinito per un'applicazione, questo è il tipo di modello pensato per gestire un'ampia gamma di richieste quotidiane.

Il modello accetta testo, immagini e file come input, e restituisce solo testo. La sua finestra di contesto è di 128.000 token, e l'output massimo è di 16.384 token. Il knowledge cutoff è il 31 ottobre 2023, quindi qualsiasi cosa successiva a quella data è al di fuori di ciò che il modello ha appreso durante l'addestramento. Poiché gli input di immagini e file sono supportati insieme al testo, puoi inviare contenuti misti in una singola richiesta e ricevere una risposta testuale, il che mantiene semplice l'integrazione se la tua applicazione già funziona con prompt testuali.

Queste capacità indicano alcuni usi pratici. L'analisi di documenti e file è adatta in modo naturale, dato che puoi passare un file e chiedere un riassunto, un'estrazione o una risposta a domande sui suoi contenuti. La comprensione delle immagini copre attività come descrivere uno screenshot, leggere un grafico o estrarre dettagli strutturati da una foto. Chat generale, stesura, classificazione, riscrittura e assistenza al codice funzionano tutti con il solo testo. L'ampia finestra di contesto significa che documenti lunghi o conversazioni multi turno possono essere gestiti senza suddividerli in molte piccole richieste, e il limite di output di 16.384 token lascia spazio a risposte generate più lunghe.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "openai/gpt-4o-mini". Poiché l'interfaccia segue il formato OpenAI, gli SDK e i client OpenAI esistenti funzionano con il solo cambio di base URL e chiave. Il modello supporta un ampio insieme di parametri di richiesta: frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p e web_search_options. La chiamata di strumenti e gli output strutturati sono disponibili, quindi puoi collegare il modello a flussi di function calling o forzare le risposte in uno schema. Il parametro seed aiuta con la riproducibilità, e web_search_options consente a una richiesta di attingere alla ricerca.

Due limiti vale la pena notare prima di impegnarti. Il knowledge cutoff del 31 ottobre 2023 significa che il modello non ha una consapevolezza integrata di eventi successivi, quindi le domande sensibili al tempo richiedono recupero o ricerca invece di affidarsi solo al modello. L'output è solo testo, quindi se hai bisogno di immagini o audio generati, questo modello non è la scelta giusta. Entro questi limiti è un valore predefinito ragionevole per carichi di lavoro di comprensione di testo e immagini.