TheDrummer: UnslopNemo 12B

TheDrummer: UnslopNemo 12B ist ein Textmodell von TheDrummer, dem Ersteller von Rocinante. Es wurde vom Anbieter am 2024-11-08 veröffentlicht, und die Anbieterbeschreibung bezeichnet es als UnslopNemo v4.1, die neueste Ergänzung dieser Reihe, die für Abenteuerliteratur und Rollenspiel-Szenarien entwickelt wurde. Es gehört zur Kategorie Text und zielt daher auf Spracharbeit ab, nicht auf Bilder, Audio oder andere Modalitäten.

Auf der Eingabeseite akzeptiert das Modell nur Text, und es erzeugt nur Text. Sein Kontextfenster beträgt 1.024.000 Token, was ungewöhnlich groß ist und es Ihnen ermöglicht, lange Manuskripte, ausgedehnte Chat-Verläufe oder große Referenzdokumente in einer einzigen Anfrage zu behalten. Die maximale Ausgabe beträgt 819.200 Token, sodass lange Generierungen innerhalb dieses Fensters möglich sind. Sein Wissensstichtag ist 2024-04-30, was wichtig ist, wenn Ihre Aufgabe von Ereignissen nach diesem Datum abhängt. Unterstützte Anfrageparameter umfassen frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, top_k, top_logprobs und top_p.

Der erklärte Fokus auf Abenteuerliteratur und Rollenspiel deutet an, wo dieses Modell am besten passt. Interaktive Fiktion und Textabenteuer sind eine natürliche Übereinstimmung, da das Modell ein langes Szenario vorantreiben und in der Rolle antworten kann. Rollenspiel-Chat, einschließlich persistenter Charaktere mit umfangreicher Vorgeschichte, profitiert vom großen Kontextfenster, weil Sie frühere Runden und Setting-Notizen im Prompt behalten können. Längere kreative Texte, etwa serialisierte Geschichten oder Kampagnenmaterial, sind eine weitere sinnvolle Verwendung. Die Sampling-Parameter geben Ihnen Kontrolle über Ton und Wiederholung, was hilft, wenn eine Charakter- oder Erzählerstimme über eine lange Sitzung hinweg konsistent bleiben muss. Strukturierte Ausgaben und logprobs sind verfügbar, wenn Sie maschinenlesbare Antworten wünschen oder prüfen möchten, wie sicher sich das Modell bei jedem Schritt war.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "thedrummer/unslopnemo-12b" auf. Da die Schnittstelle der Form der OpenAI-Chat-Completions folgt, können Sie einen vorhandenen OpenAI-Client auf die Basis-URL von api14 richten und diese ID im Feld model übergeben. Die oben aufgeführten Anfrageparameter werden unterstützt, sodass Sie temperature, top_p, top_k, repetition_penalty, presence_penalty, frequency_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs und structured_outputs nach Bedarf festlegen können. Der Parameter seed ist nützlich, wenn Sie während des Testens reproduzierbares Sampling wünschen.

Behalten Sie den Wissensstichtag im Auge: Alles nach 2024-04-30 liegt außerhalb dessen, was das Modell gelernt hat, sodass Aufgaben, die von aktuellen Informationen abhängen, möglicherweise einen anderen Ansatz erfordern. Das Modell ist nur für Text ausgelegt, wenn Ihre Anwendung also Bilder oder Audio verarbeiten muss, wäre ein anderes Modell besser geeignet. Für Textgenerierung, Rollenspiel und Arbeiten mit langem Kontext ist es eine unkomplizierte Option zum Ausprobieren.