Mancer: Weaver (alpha)

Mancer: Weaver (alpha)는 Mancer의 텍스트 생성 모델로, 제공업체가 2023-08-02에 공개했습니다. Mancer는 이를 Claude 스타일의 장황함을 재현하려는 시도라고 설명하며, 같은 수준의 일관성이나 기억력을 기대해서는 안 된다는 점을 분명히 덧붙입니다. 역할극과 서사 상황에서의 사용을 염두에 둔 모델이므로, 범용 어시스턴트보다는 창작 글쓰기 모델로 위치합니다.

이 모델은 텍스트 입력을 받아 텍스트 출력을 반환하므로, 이미지나 오디오 처리가 없는 순수 언어 모델입니다. 컨텍스트 윈도우는 8000 토큰이며, 단일 응답에서 최대 6000 토큰을 생성할 수 있습니다. 지식 컷오프는 2023-06-30이므로, 프롬프트가 그 날짜 이후의 사건이나 정보에 의존한다면 이 점이 중요합니다. 이러한 범위 안에서, 적당한 컨텍스트 윈도우와 큰 최대 출력의 조합은 짧은 답변보다 길고 연속적인 문단을 생성하는 데 적합합니다.

제공업체가 Weaver를 장황함과 서사 중심으로 규정하기 때문에, 자연스럽게 맞는 용도는 인터랙티브 픽션, 캐릭터 중심 채팅, 장면 작성, 그리고 흐르는 듯하고 말이 많은 목소리가 장점이 되는 다른 역할극 스타일 작업입니다. 큰 출력 상한은 모델이 장면을 중간에 멈추지 않고 이어 나가길 원할 때 도움이 되며, 8000 토큰 컨텍스트는 시스템 프롬프트, 캐릭터 설명, 그리고 이전 대화의 여러 턴을 담을 여유를 줍니다. 제공업체 스스로 일관성과 기억력에 대해 경고하고 있으므로, 엄격한 사실 recall이나 엄격한 지시 따르기를 요구하는 작업에는 덜 맞는 것으로 보입니다.

api14의 OpenAI 호환 API를 통해 모델 id "mancer/weaver"로 이 모델을 호출할 수 있습니다. 지원되는 요청 파라미터는 frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, temperature, top_a, top_k, top_logprobs, top_p입니다. 이 집합은 일반적인 샘플링 제어와 함께 repetition_penalty, min_p, top_a를 포함하므로, 모델이 반복에 빠지지 않게 하거나 더 다양한 문장으로 이끄는 여러 방법을 제공합니다. seed 파라미터는 재현 가능한 샘플링이 필요할 때 사용할 수 있고, logprobs와 top_logprobs를 사용하면 토큰 수준의 신뢰도를 검사할 수 있습니다.

염두에 둘 주요 한계는 8000 토큰 컨텍스트, 6000 토큰 출력 상한, 그리고 2023-06-30 지식 컷오프입니다. 제공업체의 설명 자체도 기대치를 정합니다. 이것은 역할극과 서사를 겨냥한 alpha 모델이며, 흉내 내는 스타일만큼 일관성이나 기억력을 유지하지 못할 수 있습니다. 워크로드가 긴 대화, 최신 정보, 또는 정밀한 추론에 의존한다면, 그러한 강점을 위해 만들어진 모델이 더 나은 선택일 것입니다. OpenAI 호환 엔드포인트 뒤에서 말이 많고 장면 지향적인 텍스트 생성기를 원한다면, Weaver는 테스트해 볼 만한 합리적인 후보입니다.