Qwen2.5 Coder 32B Instruct

Qwen2.5 Coder 32B Instruct est un grand modèle de langage axé sur le code de Qwen, la série de modèles anciennement connue sous le nom de CodeQwen. Il a été publié par le fournisseur le 11 novembre 2024 et appartient à la catégorie texte, il est donc conçu pour le travail sur le langage plutôt que pour les images ou l'audio. Le suffixe "Instruct" signifie qu'il est ajusté pour suivre des instructions, ce qui est la variante à privilégier pour les tâches de codage de type assistant plutôt que pour la complétion brute. Sa date limite de connaissances est le 30 juin 2024, donc tout ce qui suit cette date est en dehors de ce que le modèle a vu pendant l'entraînement.

Le modèle prend du texte en entrée et renvoie du texte en sortie, avec une fenêtre de contexte de 32 768 tokens et une sortie maximale de 29 491 tokens. Cette combinaison compte pour le travail de codage : un grand contexte vous permet de coller plusieurs fichiers, un long diff ou une spécification détaillée à côté de votre question, tandis que le plafond de sortie généreux permet des fonctions complètes, des correctifs multi-fichiers ou de longues explications en une seule réponse. Le fournisseur décrit la série Qwen2.5-Coder comme apportant des améliorations significatives en génération de code et en raisonnement sur le code par rapport à CodeQwen1.5, ce qui constitue le cœur de la vocation de ce modèle.

Ces capacités indiquent un ensemble d'usages assez clair. La génération de code, où vous décrivez une fonction ou un module et obtenez du code fonctionnel en retour, est la principale. Le raisonnement sur le code couvre des tâches comme expliquer ce que fait un extrait inconnu, tracer un bug à travers une chaîne d'appels, ou examiner une modification pour les cas limites. Comme la fenêtre de contexte est grande, vous pouvez aussi l'utiliser pour refactoriser sur plusieurs fichiers, écrire des tests contre une implémentation existante, traduire du code entre langages, ou générer de la documentation et des messages de commit à partir d'un diff. C'est un modèle texte, donc il ne lira pas les captures d'écran d'une interface ni n'analysera de diagrammes ; vous devez les décrire en mots.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "qwen/qwen-2.5-coder-32b-instruct". Comme l'interface suit la forme des chat completions d'OpenAI, vous pouvez pointer un client OpenAI existant vers l'URL de base d'api14 et ne changer que l'identifiant de modèle. Les paramètres de requête pris en charge sont frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, temperature, top_k et top_p. En pratique, vous définirez temperature et top_p pour le comportement d'échantillonnage, max_tokens pour plafonner la longueur de la réponse, stop pour les flux de travail basés sur des délimiteurs, seed lorsque vous voulez une sortie reproductible, et response_format lorsque vous avez besoin d'une sortie structurée comme du JSON. Les pénalités et min_p vous donnent un contrôle plus fin sur la répétition et les tokens à faible probabilité, ce qui est utile lors de la génération de longs blocs de code.

La principale contrainte à garder en tête est le contexte de 32 768 tokens. Si votre dépôt ou votre ensemble de documents est plus grand que cela, vous devrez récupérer et transmettre uniquement les sections pertinentes plutôt que le tout. Le modèle est également uniquement texte, donc les tâches qui dépendent d'une entrée visuelle nécessitent une approche différente. Pour la conversation générale ou l'écriture non liée au code, un modèle polyvalent plus large peut mieux convenir, mais pour la génération de code et le raisonnement sur le code dans la limite de contexte, ce modèle est le choix direct.