OpenAI: GPT-4o-mini (2024-07-18)

GPT-4o-mini (2024-07-18) è un modello di generazione di testo di OpenAI, rilasciato il 18 luglio 2024. Si colloca nella linea di modelli piccoli di OpenAI, posizionato dal fornitore come il suo modello piccolo più avanzato e il successore di GPT-4 Omni in quel tier. L'id del modello versionato fissa lo snapshot al 2024-07-18, così il comportamento rimane coerente tra le chiamate invece di cambiare con un alias mobile.

Il modello accetta testo, immagini e file come input e restituisce solo testo. Ha una finestra di contesto di 128.000 token e può produrre fino a 16.384 token di output in una singola risposta. Il suo knowledge cutoff è il 31 ottobre 2023, quindi qualsiasi cosa successiva a quella data deve arrivare dal prompt, dai file che fornisci o da uno strumento di ricerca. Poiché l'input di immagini è supportato, puoi passare screenshot, pagine scansionate o diagrammi insieme a istruzioni testuali e ottenere una risposta testuale.

Queste capacità si adattano a una serie di attività quotidiane degli sviluppatori. L'input di documenti e file funziona bene per riassunto, estrazione e risposta a domande su contratti, report o PDF, mentre l'input di immagini copre la lettura di grafici, ricevute, screenshot di UI e testo fotografato. Il contesto da 128k ti consente di inviare trascrizioni lunghe, codebase o bundle multi-documento senza suddividerli prima. Il tool calling e gli structured outputs lo rendono una scelta ragionevole per agenti, instradamento di funzioni e pipeline che necessitano di JSON conformato a uno schema, e i parametri seed, temperature e penalty ti danno controllo su quanto deterministico o variabile sia l'output.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando l'id del modello "openai/gpt-4o-mini-2024-07-18". Poiché l'interfaccia segue la forma delle chat completions di OpenAI, gli SDK e i client OpenAI esistenti funzionano con un cambio di base URL. I parametri di richiesta che supporta sono frequency_penalty, logit_bias, logprobs, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p e web_search_options. Questo copre controlli di campionamento, limiti di token, sequenze di stop, ispezione delle probabilità logaritmiche, output JSON e vincolato a schema, definizioni di tool e selezione forzata dei tool, e opzioni di ricerca web.

Due vincoli vale la pena notare prima di impegnarti. L'output è solo testo, quindi se hai bisogno di immagini generate, audio o embedding, questo modello non è adatto. Il knowledge cutoff del 31 ottobre 2023 significa che le domande sensibili al tempo necessitano di retrieval, input di file o opzioni di ricerca web invece di affidarsi alla conoscenza propria del modello. E il tetto di output di 16.384 token limita quanto può essere lunga una singola risposta, il che conta per le attività di generazione long-form.