TheDrummer: Skyfall 36B V2

TheDrummer: Skyfall 36B V2는 TheDrummer의 텍스트 생성 모델로, 2025년 3월 10일에 출시되었습니다. 이는 Mistral Small 2501의 개선된 버전으로, 향상된 창의성, 세밀한 글쓰기, 역할극, 일관된 스토리텔링을 위해 특별히 미세 조정되었습니다. 모델의 지식 컷오프는 2024년 6월 30일이므로, 그 시점까지 사용 가능한 정보를 기반으로 작동합니다.

모델은 텍스트 입력을 받아 텍스트 출력을 반환하며, 컨텍스트 창은 32,768 토큰이고 최대 출력은 29,491 토큰입니다. temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs 등 다양한 샘플링 및 제어 매개변수를 지원합니다. 이 조합은 샘플링 매개변수를 통한 창의적 자유와, 예측 가능한 형태가 필요할 때 structured_outputs 및 response_format을 통한 더 엄격한 제어를 모두 제공합니다.

미세 조정 초점은 몇 가지 실용적인 용도를 가리킵니다. 소설 초안 작성, 개요를 산문으로 확장, 다양한 마케팅 문구 생성 등 창의적이고 세밀한 글쓰기 작업에 잘 맞습니다. 역할극과 캐릭터 중심 대화도 자연스럽게 어울리며, 인터랙티브 픽션, 게임 NPC, 긴 대화에서도 캐릭터를 유지해야 하는 채팅 페르소나 등에 사용할 수 있습니다. 더 긴 구절에 걸친 일관된 스토리텔링도 또 다른 용도이며, 32,768 토큰 컨텍스트 덕분에 이전 장면, 캐릭터 메모, 스타일 가이드를 프롬프트에 유지할 수 있습니다. structured_outputs와 response_format은 내러티브에서 필드를 추출하거나 다운스트림 코드를 위해 일관된 JSON을 생성하는 등, 응답이 스키마를 따라야 하는 작업에 사용할 수 있게 해줍니다.

모델은 모델 id "thedrummer/skyfall-36b-v2"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 인터페이스가 OpenAI chat completions 형태를 따르므로, 기존 OpenAI 클라이언트를 api14의 base URL로 지정하고, 평소의 요청 구조를 유지하며, model 필드를 해당 id로 설정할 수 있습니다. 위에 나열된 요청 매개변수가 지원되므로, 필요에 따라 temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs를 전달할 수 있습니다. 이 페이지의 실시간 가격표는 비용을 다룹니다.

선택할 때 주의할 두 가지 제한이 있습니다. 입력은 텍스트 전용이므로, 작업이 이미지나 오디오에 의존한다면 이 모델은 적합하지 않습니다. 또한 32,768 토큰 컨텍스트는 단일 요청에 유지할 수 있는 이전 자료의 양을 제한하며, 이는 매우 긴 문서나 확장된 대화에서 중요합니다. 그러한 경우에는 청킹이나 검색, 또는 더 큰 컨텍스트 창을 가진 모델이 필요합니다.