TheDrummer: Skyfall 36B V2

TheDrummer: Skyfall 36B V2 ist ein Textgenerierungsmodell von TheDrummer, veröffentlicht am 10. März 2025. Es ist eine verbesserte Iteration von Mistral Small 2501, speziell feinabgestimmt für verbesserte Kreativität, nuanciertes Schreiben, Rollenspiel und kohärentes Geschichtenerzählen. Der Knowledge Cutoff des Modells ist der 30. Juni 2024, es arbeitet also mit Informationen, die bis zu diesem Zeitpunkt verfügbar waren.

Das Modell akzeptiert Texteingabe und gibt Textausgabe zurück, mit einem Kontextfenster von 32.768 Tokens und einer maximalen Ausgabe von 29.491 Tokens. Es unterstützt eine breite Palette von Sampling- und Steuerungsparametern: temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format und structured_outputs. Diese Kombination gibt Ihnen sowohl kreativen Spielraum durch die Sampling-Parameter als auch engere Kontrolle durch strukturierte Ausgaben und Antwortformate, wenn Sie vorhersehbare Strukturen benötigen.

Der Feinabstimmungsfokus deutet auf einige praktische Anwendungsfälle hin. Kreative und nuancierte Schreibaufgaben passen gut, etwa das Verfassen von Fiktion, das Erweitern von Gliederungen zu Prosa oder das Erstellen abwechslungsreicher Marketingtexte. Rollenspiel und charaktergetriebener Dialog sind ebenfalls eine natürliche Passung, sei es für interaktive Fiktion, Spiel-NPCs oder Chat-Personas, die über einen langen Austausch hinweg in ihrer Rolle bleiben müssen. Kohärentes Geschichtenerzählen über längere Passagen ist ein weiterer Anwendungsfall, unterstützt durch den Kontext von 32.768 Tokens, mit dem Sie frühere Szenen, Charakternotizen oder Stilrichtlinien im Prompt behalten können. Strukturierte Ausgaben und response_format machen es nutzbar für Aufgaben, bei denen die Antwort einem Schema folgen muss, etwa beim Extrahieren von Feldern aus einer Erzählung oder beim Generieren konsistenten JSON für nachgelagerten Code.

Sie rufen das Modell über die OpenAI-kompatible API von api14 auf, mit der Modell-ID "thedrummer/skyfall-36b-v2". Da die Schnittstelle der Form der OpenAI Chat Completions folgt, können Sie einen vorhandenen OpenAI-Client auf die Base-URL von api14 richten, Ihre übliche Anfragestruktur beibehalten und das Feld model auf diese ID setzen. Die oben aufgeführten Anfrageparameter werden unterstützt, Sie können also temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format und structured_outputs nach Bedarf übergeben. Die Live-Preistabelle auf dieser Seite deckt die Kosten ab.

Zwei Einschränkungen sind bei der Auswahl erwähnenswert. Die Eingabe ist ausschließlich Text, wenn Ihre Aufgabe also von Bildern oder Audio abhängt, ist dieses Modell nicht die richtige Wahl. Der Kontext von 32.768 Tokens begrenzt zudem, wie viel vorheriges Material Sie in einer einzelnen Anfrage behalten können, was bei sehr langen Dokumenten oder ausgedehnten Gesprächen relevant ist; in diesen Fällen bräuchten Sie Chunking oder Retrieval oder ein Modell mit einem größeren Kontextfenster.