OpenAI: GPT-3.5 Turbo

GPT-3.5 Turbo est un modèle de texte d'OpenAI, identifié sur api14 par openai/gpt-3.5-turbo. OpenAI le décrit comme son modèle le plus rapide, et il a été publié par le fournisseur le 2023-05-28. Il appartient à la catégorie texte et est conçu pour comprendre et générer du langage naturel ou du code, avec une optimisation pour le chat et les tâches de complétion traditionnelles. Si vous choisissez un modèle OpenAI à usage général pour le travail textuel quotidien, c'est le choix par défaut de longue date autour duquel une grande partie de l'écosystème s'est construite.

Le modèle accepte du texte en entrée et renvoie du texte en sortie, il n'y a donc aucune gestion d'image, d'audio ou de fichier à prévoir. Sa fenêtre de contexte est de 16 385 tokens, et la sortie maximale est de 4 096 tokens, ce qui signifie que des entrées longues sont possibles mais que la réponse elle-même est plafonnée bien en dessous de la taille du contexte. La date limite de connaissances est le 2021-09-30, donc tout ce qui est postérieur à cette date doit provenir du prompt plutôt que des données d'entraînement du modèle. Les paramètres de requête pris en charge incluent temperature, top_p, max_tokens, stop, frequency_penalty, presence_penalty, logit_bias, logprobs, top_logprobs, seed, response_format, structured_outputs, tools et tool_choice.

Ces capacités correspondent à un ensemble assez large de tâches pratiques. Les assistants de chat, la rédaction et la réécriture, le résumé de documents qui tiennent dans la fenêtre de contexte, la classification et l'extraction vers une forme fixe, ainsi que la génération ou l'explication de code sont tous des usages raisonnables, puisque le modèle gère à la fois le langage naturel et le code. Comme tools et tool_choice sont pris en charge, vous pouvez définir des schémas de fonctions et laisser le modèle décider quand les appeler, ce qui convient aux workflows de type agent et aux pipelines de retrieval où le modèle doit demander des données. Le paramètre seed est utile lorsque vous voulez un échantillonnage reproductible, et response_format ainsi que structured_outputs sont utiles lorsqu'un parseur en aval attend une structure prévisible plutôt que de la prose libre.

L'appeler via api14 fonctionne de la même manière que n'importe quel autre endpoint compatible OpenAI. Envoyez votre requête à la route chat completions avec l'identifiant de modèle openai/gpt-3.5-turbo, et utilisez les paramètres listés ci-dessus dans le corps de la requête selon vos besoins. Si vous avez déjà du code écrit pour le SDK OpenAI ou un client compatible, pointer l'URL de base vers api14 et remplacer l'identifiant de modèle est normalement la seule modification nécessaire.

Deux contraintes méritent d'être gardées à l'esprit avant de vous engager. La date limite de connaissances du 2021-09-30 signifie que le modèle ne connaîtra pas les événements, bibliothèques ou API récents à moins que vous ne fournissiez ce contexte, et le plafond de sortie de 4 096 tokens limite ce qu'il peut produire en une seule réponse. Pour des entrées très volumineuses, des générations très longues, ou des tâches qui dépendent de connaissances récentes, un autre modèle sur api14 pourrait mieux vous convenir.