TheDrummer: UnslopNemo 12B

TheDrummer: UnslopNemo 12B est un modèle de texte de TheDrummer, le créateur de Rocinante. Il a été publié par le fournisseur le 2024-11-08, et sa description par le fournisseur le présente comme UnslopNemo v4.1, le dernier ajout à cette gamme, conçu pour l'écriture d'aventures et les scénarios de jeu de rôle. Il appartient à la catégorie texte, il s'adresse donc au travail linguistique plutôt qu'aux images, à l'audio ou à d'autres modalités.

Côté entrée, le modèle accepte uniquement du texte, et il produit uniquement du texte. Sa fenêtre de contexte est de 1 024 000 jetons, ce qui est inhabituellement grand et vous permet de conserver de longs manuscrits, des historiques de conversation étendus ou de gros documents de référence dans une seule requête. La sortie maximale est de 819 200 jetons, des générations longues sont donc possibles dans cette fenêtre. Sa date limite de connaissances est le 2024-04-30, ce qui compte si votre tâche dépend d'événements postérieurs à cette date. Les paramètres de requête pris en charge incluent frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, top_k, top_logprobs et top_p.

L'accent déclaré sur l'écriture d'aventures et le jeu de rôle suggère où ce modèle convient le mieux. La fiction interactive et les aventures textuelles sont une correspondance naturelle, puisque le modèle peut faire progresser un long scénario et répondre en restant dans son personnage. Le chat de jeu de rôle, y compris des personnages persistants avec un passé développé, bénéficie de la grande fenêtre de contexte car vous pouvez garder les tours précédents et les notes de cadre dans le prompt. L'écriture créative de plus long format, comme les histoires en épisodes ou le matériel de campagne, est un autre usage raisonnable. Les paramètres d'échantillonnage vous donnent le contrôle du ton et de la répétition, ce qui aide lorsqu'une voix de personnage ou de narrateur doit rester cohérente sur une longue session. Les structured outputs et les logprobs sont disponibles si vous voulez des réponses lisibles par machine ou si vous voulez inspecter le degré de confiance du modèle à chaque étape.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "thedrummer/unslopnemo-12b". Comme l'interface suit la forme des chat completions d'OpenAI, vous pouvez pointer un client OpenAI existant vers l'URL de base d'api14 et passer cet identifiant dans le champ model. Les paramètres de requête listés ci-dessus sont pris en charge, vous pouvez donc définir temperature, top_p, top_k, repetition_penalty, presence_penalty, frequency_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs et structured_outputs selon vos besoins. Le paramètre seed est utile lorsque vous voulez un échantillonnage reproductible pendant les tests.

Gardez la date limite de connaissances à l'esprit : tout ce qui est postérieur au 2024-04-30 est en dehors de ce que le modèle a appris, les tâches qui dépendent d'informations récentes peuvent donc nécessiter une autre approche. Le modèle est uniquement textuel, donc si votre application doit gérer des images ou de l'audio, un modèle différent conviendrait mieux. Pour la génération de texte, le jeu de rôle et le travail d'écriture à long contexte, c'est une option simple à essayer.