OpenAI: GPT-3.5 Turbo (batch)

OpenAI : GPT-3.5 Turbo (batch) est un modèle de texte d'OpenAI, proposé via api14 sous l'identifiant de modèle openai/gpt-3.5-turbo:batch. Il appartient à la famille GPT-3.5 Turbo, qu'OpenAI décrit comme son modèle le plus rapide. La date de publication par le fournisseur est le 2023-05-28, et les données d'entraînement couvrent jusqu'à septembre 2021, donc les connaissances intégrées du modèle s'arrêtent à ce point.

Le modèle fonctionne avec une entrée texte et produit une sortie texte. Il comprend et génère du langage naturel ou du code, et il est optimisé pour le chat et les tâches de complétion traditionnelles. La fenêtre de contexte est de 16 385 tokens, et la sortie maximale est de 4 096 tokens. Comme il traite à la fois la prose et le code, il convient aux charges de travail qui mélangent des tours de conversation avec de la génération de texte structuré.

Les usages pratiques découlent directement de ces caractéristiques. Les assistants de chat, les interfaces conversationnelles et le dialogue multi-tours sont un choix naturel étant donné l'optimisation pour le chat. Les tâches de complétion traditionnelles, comme la rédaction, le résumé ou la réécriture de texte, fonctionnent également. Comme le modèle peut générer du code, il peut aussi aider avec des invites orientées code. Le contexte de 16 385 tokens laisse de la place pour des conversations plus longues ou des invites plus volumineuses, tandis que la limite de sortie de 4 096 tokens convient aux réponses qui n'ont pas besoin d'être extrêmement longues.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle openai/gpt-3.5-turbo:batch. Les paramètres de requête qu'il prend en charge sont frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs et top_p. Cet ensemble couvre les contrôles d'échantillonnage, les limites de tokens, les séquences d'arrêt, l'initialisation déterministe, la sortie structurée et l'appel d'outils ou de fonctions, donc vous pouvez façonner à la fois des réponses en texte brut et des flux pilotés par outils sans quitter l'interface standard.

Gardez à l'esprit la date limite de connaissances : tout ce qui suit septembre 2021 est en dehors des données d'entraînement du modèle, donc les questions sensibles au temps peuvent nécessiter une récupération ou un contexte fourni dans l'invite. La limite de sortie de 4 096 tokens compte aussi pour les tâches qui exigent de longues réponses uniques. Pour ces situations, ou lorsqu'une tâche dépend d'informations plus récentes, un autre modèle peut mieux convenir.