TheDrummer: Skyfall 36B V2

TheDrummer: Skyfall 36B V2 é um modelo de geração de texto da TheDrummer, lançado em 10 de março de 2025. É uma iteração aprimorada do Mistral Small 2501, ajustada especificamente para criatividade aprimorada, escrita com nuances, role-playing e narrativa coerente. O corte de conhecimento do modelo é 30 de junho de 2024, portanto ele trabalha com informações disponíveis até esse ponto.

O modelo aceita entrada de texto e retorna saída de texto, com uma janela de contexto de 32.768 tokens e uma saída máxima de 29.491 tokens. Ele suporta um amplo conjunto de parâmetros de amostragem e controle: temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format e structured_outputs. Essa combinação oferece tanto liberdade criativa por meio dos parâmetros de amostragem quanto controle mais rígido por meio de structured outputs e formatos de resposta quando você precisa de formatos previsíveis.

O foco do ajuste aponta para alguns usos práticos. Tarefas de escrita criativa e com nuances se encaixam bem, como redigir ficção, expandir esboços em prosa ou produzir textos de marketing variados. Role-playing e diálogos orientados por personagens também são uma combinação natural, seja para ficção interativa, NPCs de jogos ou personas de chat que precisam se manter no personagem ao longo de uma troca longa. Narrativa coerente em passagens mais longas é outro uso, ajudado pelo contexto de 32.768 tokens, que permite manter cenas anteriores, notas de personagens ou guias de estilo no prompt. Structured outputs e response_format tornam o modelo utilizável para tarefas em que a resposta deve seguir um esquema, como extrair campos de uma narrativa ou gerar JSON consistente para código downstream.

Você chama o modelo por meio da API compatível com OpenAI da api14 usando o id de modelo "thedrummer/skyfall-36b-v2". Como a interface segue o formato de chat completions da OpenAI, você pode apontar um cliente OpenAI existente para a URL base da api14, manter sua estrutura de requisição usual e definir o campo model para esse id. Os parâmetros de requisição listados acima são suportados, então você pode passar temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format e structured_outputs conforme necessário. A tabela de preços ao vivo nesta página cobre o custo.

Dois limites vale a pena observar ao escolher. A entrada é somente texto, então se sua tarefa depende de imagens ou áudio, este modelo não é o adequado. O contexto de 32.768 tokens também limita quanto material anterior você pode manter em uma única requisição, o que importa para documentos muito longos ou conversas estendidas; nesses casos você precisaria de chunking ou retrieval, ou de um modelo com uma janela de contexto maior.