TheDrummer: Skyfall 36B V2

TheDrummer: Skyfall 36B V2 è un modello di generazione di testo di TheDrummer, rilasciato il 10 marzo 2025. È una iterazione migliorata di Mistral Small 2501, messa a punto specificamente per una creatività migliorata, una scrittura sfumata, il role-playing e una narrazione coerente. Il limite di conoscenza del modello è il 30 giugno 2024, quindi lavora con le informazioni disponibili fino a quel momento.

Il modello accetta input di testo e restituisce output di testo, con una finestra di contesto di 32.768 token e un output massimo di 29.491 token. Supporta un ampio insieme di parametri di campionamento e controllo: temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format e structured_outputs. Questa combinazione offre sia libertà creativa attraverso i parametri di campionamento sia un controllo più stretto attraverso gli structured outputs e i formati di risposta quando serve una forma prevedibile.

Il focus del fine-tuning indica alcuni usi pratici. I compiti di scrittura creativa e sfumata si adattano bene, come scrivere narrativa, espandere scalette in prosa o produrre testi di marketing vari. Anche il role-playing e il dialogo basato sui personaggi sono una corrispondenza naturale, che si tratti di narrativa interattiva, NPC di giochi o personaggi di chat che devono restare nel personaggio durante uno scambio lungo. La narrazione coerente su passaggi più lunghi è un altro uso, favorito dal contesto di 32.768 token, che consente di mantenere scene precedenti, note sui personaggi o guide di stile nel prompt. Gli structured outputs e response_format lo rendono utilizzabile per compiti in cui la risposta deve seguire uno schema, come estrarre campi da una narrazione o generare JSON coerente per il codice a valle.

Puoi chiamare il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "thedrummer/skyfall-36b-v2". Poiché l'interfaccia segue la forma delle chat completions di OpenAI, puoi puntare un client OpenAI esistente all'URL di base di api14, mantenere la tua struttura di richiesta abituale e impostare il campo model su quell'id. I parametri di richiesta elencati sopra sono supportati, quindi puoi passare temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format e structured_outputs secondo necessità. La tabella dei prezzi live su questa pagina copre il costo.

Due limiti meritano attenzione nella scelta. L'input è solo testo, quindi se il tuo compito dipende da immagini o audio, questo modello non è adatto. Il contesto di 32.768 token limita anche quanto materiale precedente puoi mantenere in una singola richiesta, il che conta per documenti molto lunghi o conversazioni estese; in quei casi servirebbero chunking o retrieval, oppure un modello con una finestra di contesto più ampia.