OpenAI: GPT-3.5 Turbo

GPT-3.5 Turbo è un modello text di OpenAI, identificato su api14 come openai/gpt-3.5-turbo. OpenAI lo descrive come il suo modello più veloce, ed è stato rilasciato dal provider il 2023-05-28. Si colloca nella categoria text ed è costruito per comprendere e generare linguaggio naturale o codice, con ottimizzazione per chat e attività di completamento tradizionali. Se stai scegliendo un modello OpenAI general purpose per il lavoro testuale quotidiano, questo è il default di lunga data attorno al quale è stato costruito gran parte dell'ecosistema.

Il modello accetta text come input e restituisce text come output, quindi non c'è gestione di immagini, audio o file da pianificare. La sua context window è di 16.385 token, e l'output massimo è di 4.096 token, il che significa che input lunghi sono possibili ma la risposta stessa è limitata ben al di sotto della dimensione del context. Il knowledge cutoff è 2021-09-30, quindi qualsiasi cosa successiva a quella data deve arrivare dal prompt piuttosto che dai dati di addestramento del modello. I parametri di richiesta supportati includono temperature, top_p, max_tokens, stop, frequency_penalty, presence_penalty, logit_bias, logprobs, top_logprobs, seed, response_format, structured_outputs, tools e tool_choice.

Queste capacità si mappano su un insieme piuttosto ampio di attività pratiche. Assistenti chat, stesura e riscrittura, summarisation di documenti che rientrano nella context window, classificazione ed estrazione in una forma fissa, e generazione o spiegazione di codice sono tutti casi d'uso ragionevoli, dato che il modello gestisce sia linguaggio naturale sia codice. Poiché tools e tool_choice sono supportati, puoi definire schemi di funzione e lasciare che il modello decida quando chiamarli, il che si adatta a workflow in stile agente e pipeline di retrieval in cui il modello deve richiedere dati. Il parametro seed è utile quando vuoi un campionamento ripetibile, e response_format più structured_outputs sono utili quando un parser a valle si aspetta una struttura prevedibile invece che prosa libera.

Chiamarlo tramite api14 funziona allo stesso modo di qualsiasi altro endpoint compatibile con OpenAI. Invia la tua richiesta alla route chat completions con il model id openai/gpt-3.5-turbo, e usa i parametri elencati sopra nel corpo della richiesta secondo necessità. Se hai già codice scritto contro l'SDK OpenAI o un client compatibile, puntare il base URL su api14 e sostituire il model id è normalmente l'unica modifica necessaria.

Due vincoli vale la pena tenere a mente prima di impegnarti. Il knowledge cutoff 2021-09-30 significa che il modello non conoscerà eventi, librerie o API recenti a meno che tu non fornisca quel contesto, e il tetto di output di 4.096 token limita quanto può produrre in una singola risposta. Per input molto grandi, generazioni molto lunghe, o attività che dipendono da conoscenze recenti, un modello diverso su api14 potrebbe servirti meglio.