Magnum v4 72B

Magnum v4 72B est un modèle de génération de texte d'Anthracite Org, publié le 22 octobre 2024. Il fait partie d'une série conçue pour reproduire la qualité de prose des modèles Claude 3, en particulier Sonnet et Opus. Le modèle est affiné au-dessus de Qwen2.5 72B, une base de 72 milliards de paramètres, de sorte qu'il hérite de cette fondation tout en étant ajusté pour un style d'écriture particulier.

Le modèle accepte une entrée texte et renvoie une sortie texte, ce qui le place dans la catégorie texte sur api14. Il dispose d'une fenêtre de contexte de 32768 jetons, donc les invites et l'historique de conversation peuvent ensemble atteindre cette longueur. La sortie maximale par requête est de 4096 jetons, et la date limite de connaissance est le 30 juin 2024. Tout ce qui s'est produit après cette date est en dehors de ce que le modèle a appris pendant l'entraînement.

Les capacités déterminent les cas d'usage. Comme le modèle a été ajusté pour la qualité de la prose plutôt que pour l'utilisation d'outils ou la multimodalité, il convient aux travaux à forte composante rédactionnelle : rédaction et réécriture de contenu long, ajustement du ton et du registre, édition pour une voix particulière, jeu de rôle et dialogue axé sur les personnages, et résumé de longs documents qui tiennent dans la fenêtre de contexte. Le contexte de 32768 jetons permet de transmettre une quantité substantielle de matériel source, et le plafond de sortie de 4096 jetons convient aux chapitres, articles et réponses de plusieurs paragraphes plutôt qu'à de très longues générations uniques.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "anthracite-org/magnum-v4-72b". L'API prend en charge un large ensemble de paramètres de requête : frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_a, top_k, top_logprobs et top_p. Les sorties structurées et response_format sont disponibles lorsque vous avez besoin que la réponse suive un schéma plutôt qu'une prose libre, et seed aide lorsque vous voulez un résultat reproductible. Les contrôles d'échantillonnage permettent d'ajuster la créativité et la répétition selon la tâche.

Gardez les limites à l'esprit au moment de choisir. La fenêtre de contexte est de 32768 jetons, donc de très grandes bases de code, des entrées de la longueur d'un livre entier ou de longs historiques d'agents ne tiendront pas, et la sortie maximale de 4096 jetons exclut les générations uniques au-delà de cette longueur. La date limite de connaissance du 30 juin 2024 signifie que les événements récents ou la documentation actuelle ne sont pas connus du modèle. Si vous avez besoin d'une entrée image, d'audio ou d'un contexte beaucoup plus grand, un autre modèle sur api14 conviendrait mieux.