OpenAI: GPT-4

GPT-4 è un modello testuale di OpenAI, elencato su api14 con l'id del modello openai/gpt-4. Si colloca nella categoria testo ed è descritto dal provider come il modello linguistico di punta su larga scala di OpenAI, costruito per risolvere problemi difficili con maggiore accuratezza rispetto ai modelli precedenti grazie a una conoscenza generale più ampia e a un ragionamento avanzato. La data di rilascio del provider è 2023-05-28, e il knowledge cutoff del modello è 2021-09-30.

Su api14 il modello accetta input testuale e restituisce output testuale. Ha una lunghezza di contesto di 8191 token e un output massimo di 4096 token. I parametri di richiesta supportati includono temperature, top_p, frequency_penalty, presence_penalty, stop, seed, logit_bias, logprobs, top_logprobs, max_tokens, max_completion_tokens, response_format, structured_outputs, tools e tool_choice. Questa combinazione copre i controlli di campionamento, un comportamento quasi deterministico tramite seed, l'ispezione a livello di token tramite logprobs e il function calling tramite i parametri tools.

Gli usi pratici derivano da queste capacità. Il ragionamento generale e le risposte a domande ad alta intensità di conoscenza si adattano ai punti di forza dichiarati del modello. I prompt più lunghi sono gestibili entro il contesto di 8191 token, quindi attività di riassunto di documenti, redazione su più paragrafi, estrazione e riscrittura sono ragionevoli, purché l'input più l'output richiesto restino all'interno della finestra. Poiché tools e tool_choice sono supportati, il modello può essere usato come fase di ragionamento in un agente o in un flusso di lavoro che chiama funzioni esterne. Gli structured outputs e response_format aiutano quando servono risultati leggibili dalla macchina anziché prosa libera, e logprobs o top_logprobs sono utili quando si vuole ispezionare quanto il modello fosse sicuro a ogni token, per esempio in pipeline di classificazione o valutazione.

Chiamarlo tramite api14 funziona allo stesso modo di qualsiasi altro endpoint compatibile con OpenAI. Invia una richiesta di chat completions al gateway con il campo model impostato su openai/gpt-4, e passa i parametri scelti nel corpo della richiesta. Poiché l'API è compatibile con OpenAI, le librerie client e il codice OpenAI esistenti possono di solito essere indirizzati ad api14 cambiando la base URL e la chiave API, senza altre modifiche alla forma della richiesta. Puoi impostare temperature e top_p per il campionamento, max_tokens o max_completion_tokens per limitare la risposta, sequenze di stop per terminare la generazione in anticipo, e seed quando vuoi output più ripetibili. Per l'uso degli strumenti, fornisci tools e opzionalmente tool_choice; per risultati strutturati, usa response_format o structured_outputs.

Vale la pena tenere a mente alcuni limiti. La finestra di contesto di 8191 token è modesta secondo gli standard attuali, quindi documenti molto lunghi o conversazioni multi-turno lunghe possono richiedere chunking o trimming. Il knowledge cutoff del 2021-09-30 significa che il modello non ha consapevolezza di eventi successivi a quella data, quindi qualsiasi cosa sensibile al tempo dovrebbe essere fornita nel prompt o recuperata tramite strumenti. L'input è solo testuale, quindi immagini e audio sono fuori ambito qui. Se il tuo compito dipende da un contesto molto più ampio, da conoscenze più recenti o da input non testuale, un modello diverso su api14 è probabilmente più adatto.