Mancer: Weaver (alpha)

Mancer: Weaver (alpha) é um modelo de geração de texto da Mancer, lançado pelo fornecedor em 2023-08-02. A Mancer descreve-o como uma tentativa de recriar a verbosidade ao estilo Claude, com a ressalva explícita de que não se deve esperar o mesmo nível de coerência ou memória. Destina-se a uso em situações de roleplay e narrativa, pelo que é posicionado como um modelo de escrita criativa e não como um assistente de uso geral.

O modelo aceita entrada de texto e devolve saída de texto, pelo que é um modelo de linguagem simples, sem processamento de imagem ou áudio. Tem uma janela de contexto de 8000 tokens e pode produzir até 6000 tokens numa única resposta. O seu corte de conhecimento é 2023-06-30, o que é relevante se os seus prompts dependerem de eventos ou informações posteriores a essa data. Dentro desses limites, a combinação de uma janela de contexto moderada com um máximo de saída elevado torna-o adequado para gerar passagens longas e contínuas, em vez de respostas curtas.

Como o fornecedor enquadra o Weaver em torno da verbosidade e da narrativa, os encaixes naturais são ficção interativa, chat orientado por personagens, escrita de cenas e outras tarefas ao estilo roleplay em que uma voz fluida e faladora é uma vantagem. O teto elevado de saída ajuda quando quer que um modelo faça avançar uma cena sem parar cedo, e o contexto de 8000 tokens dá-lhe espaço para um system prompt, descrição de personagem e vários turnos de diálogo anterior. É menos obviamente adequado para tarefas que exigem recuperação factual rigorosa ou seguimento estrito de instruções, uma vez que o próprio fornecedor alerta para a coerência e a memória.

Pode chamar o modelo através da API compatível com OpenAI da api14 usando o model id "mancer/weaver". Os parâmetros de pedido suportados são frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, temperature, top_a, top_k, top_logprobs e top_p. Esse conjunto cobre os controlos de amostragem habituais mais repetition_penalty, min_p e top_a, o que lhe dá várias formas de afastar o modelo de repetições ou de o conduzir para uma prosa mais variada. O parâmetro seed está disponível se precisar de amostragem reproduzível, e logprobs com top_logprobs permitem-lhe inspecionar a confiança ao nível do token.

Os principais limites a ter em conta são o contexto de 8000 tokens, o limite de saída de 6000 tokens e o corte de conhecimento de 2023-06-30. A própria descrição do fornecedor também define expectativas: este é um modelo alpha orientado para roleplay e narrativa, e pode não manter a coerência ou a memória tão bem como o estilo que imita. Se a sua carga de trabalho depender de conversas longas, informação recente ou raciocínio preciso, um modelo construído para esses pontos fortes provavelmente servir-lhe-á melhor. Se quer um gerador de texto falador e orientado a cenas por trás de um endpoint compatível com OpenAI, o Weaver é um candidato razoável para testar.