OpenAI: GPT-3.5 Turbo (older v0613)

GPT-3.5 Turbo (version plus ancienne v0613) est un modèle de texte d'OpenAI, distribué sous l'identifiant de modèle openai/gpt-3.5-turbo-0613. Il appartient à la famille GPT-3.5 Turbo, qu'OpenAI décrit comme sa gamme de modèles la plus rapide, et cette version particulière est un instantané plus ancien qui reste disponible pour les charges de travail qui dépendent de son comportement spécifique. Ses données d'entraînement vont jusqu'à septembre 2021, il n'a donc aucune connaissance des événements postérieurs à cette date, sauf si vous fournissez vous-même l'information dans le prompt.

Le modèle accepte du texte en entrée et renvoie du texte en sortie, ce qui en fait un modèle de langage polyvalent pour le chat et les tâches de complétion traditionnelles. Il peut comprendre et générer du langage naturel ainsi que du code. La fenêtre de contexte est de 4 095 tokens, et la sortie maximale est de 3 685 tokens, donc le prompt et la réponse partagent un budget assez serré par rapport aux modèles modernes plus grands. Il n'y a ici aucune entrée d'image, d'audio ou de fichier ; tout ce que vous envoyez doit être du texte.

Parce qu'il traite à la fois la prose et le code, le modèle convient à une gamme de tâches quotidiennes : assistants de chat et interfaces conversationnelles, rédaction et réécriture de texte, résumé de documents courts, classification et extraction sur de petites entrées, et génération ou explication de code léger. Sa prise en charge des outils et des sorties structurées le rend également utilisable pour l'appel de fonctions simple et pour produire des réponses dans un format défini, ce qui aide lorsque vous avez besoin d'une sortie lisible par machine plutôt que de texte libre. La fenêtre de 4 095 tokens signifie qu'il convient aux prompts et aux réponses qui tiennent confortablement dans quelques pages de texte, pas à l'analyse de longs documents.

Vous l'appelez via l'API compatible OpenAI d'api14 en passant l'identifiant de modèle openai/gpt-3.5-turbo-0613 dans votre requête, donc les SDK et bibliothèques clientes OpenAI existants fonctionnent avec seulement un changement d'URL de base et de clé. Les paramètres de requête pris en charge sont frequency_penalty, logit_bias, logprobs, max_completion_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs et top_p. Cela couvre les contrôles d'échantillonnage, le déterminisme via seed, l'inspection au niveau des tokens via logprobs et top_logprobs, et la sortie pilotée par outils ou schéma via tools, tool_choice, response_format et structured_outputs.

La principale contrainte à anticiper est la longueur du contexte. À 4 095 tokens avec un plafond de sortie de 3 685 tokens, les longues conversations, les grandes bases de code ou les prompts multi documents nécessiteront un découpage, une récupération ou un élagage, et la date limite de connaissances de septembre 2021 signifie que les informations récentes doivent provenir de votre propre contexte. Si votre tâche nécessite une fenêtre beaucoup plus grande, des connaissances plus récentes ou une entrée multimodale, un autre modèle sur api14 conviendra probablement mieux. Pour les tâches courtes de texte et de code à fort volume où la vitesse compte, ce modèle reste un choix raisonnable.