TheDrummer: Skyfall 36B V2

TheDrummer: Skyfall 36B V2 to model generowania tekstu od TheDrummer, wydany 10 marca 2025. Jest to ulepszona iteracja Mistral Small 2501, dostrojona specjalnie pod kątem większej kreatywności, niuansowego pisania, odgrywania ról i spójnego opowiadania historii. Data odcięcia wiedzy modelu to 30 czerwca 2024, więc działa na informacjach dostępnych do tego momentu.

Model przyjmuje tekst na wejściu i zwraca tekst na wyjściu, z oknem kontekstu wynoszącym 32 768 tokenów i maksymalnym wyjściem 29 491 tokenów. Obsługuje szeroki zestaw parametrów próbkowania i sterowania: temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format oraz structured_outputs. Ta kombinacja daje zarówno swobodę twórczą dzięki parametrom próbkowania, jak i ściślejszą kontrolę dzięki structured outputs i formatom odpowiedzi, gdy potrzebujesz przewidywalnych struktur.

Fokus dostrajania wskazuje na kilka praktycznych zastosowań. Zadania twórczego i niuansowego pisania pasują dobrze, takie jak szkicowanie fikcji, rozwijanie konspektów w prozę czy tworzenie zróżnicowanych tekstów marketingowych. Odgrywanie ról i dialogi oparte na postaciach również naturalnie pasują, czy to do interaktywnej fikcji, NPC w grach, czy person czatu, które muszą pozostać w charakterze przez długą wymianę. Spójne opowiadanie historii na dłuższych fragmentach to kolejne zastosowanie, wspierane przez kontekst 32 768 tokenów, który pozwala zachować w prompcie wcześniejsze sceny, notatki o postaciach lub przewodniki stylistyczne. Structured outputs i response_format czynią go użytecznym do zadań, w których odpowiedź musi być zgodna ze schematem, takich jak wyodrębnianie pól z narracji lub generowanie spójnego JSON dla kodu niższego poziomu.

Model wywołujesz przez kompatybilne z OpenAI API api14, używając identyfikatora modelu "thedrummer/skyfall-36b-v2". Ponieważ interfejs jest zgodny ze strukturą OpenAI chat completions, możesz skierować istniejącego klienta OpenAI na bazowy URL api14, zachować swoją zwykłą strukturę żądania i ustawić pole model na ten identyfikator. Wymienione powyżej parametry żądania są obsługiwane, więc możesz przekazywać temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format oraz structured_outputs w razie potrzeby. Tabela cen na tej stronie obejmuje koszty.

Dwa ograniczenia warto zauważyć przy wyborze. Wejście to wyłącznie tekst, więc jeśli Twoje zadanie zależy od obrazów lub dźwięku, ten model nie jest odpowiedni. Kontekst 32 768 tokenów ogranicza również, ile wcześniejszego materiału możesz zachować w pojedynczym żądaniu, co ma znaczenie przy bardzo długich dokumentach lub rozbudowanych rozmowach; w takich przypadkach potrzebne byłoby dzielenie na fragmenty lub wyszukiwanie, albo model z większym oknem kontekstu.