Perplexity: Sonar

Perplexity: Sonar é um modelo de texto da Perplexity, lançado em 27 de janeiro de 2025. A Perplexity descreve-o como leve, rápido, acessível e simples de usar, com citações e a capacidade de personalizar fontes. Destina-se a empresas que pretendem integrar funcionalidades leves de perguntas e respostas nos seus próprios produtos, em vez de construir um assistente de uso geral de raiz.

O modelo aceita texto e imagens como entrada e devolve texto. Tem uma janela de contexto de 127.072 tokens e uma saída máxima de 114.364 tokens, pelo que consegue comportar entradas longas e produzir respostas longas numa única chamada. A combinação de entrada de imagem com saída de texto significa que consegue ler uma captura de ecrã, um diagrama ou uma fotografia juntamente com uma pergunta escrita e responder em prosa. Como a descrição do fornecedor destaca citações e fontes personalizáveis, as respostas podem ser fundamentadas em fontes que escolher, o que é importante quando precisa de mostrar de onde veio uma resposta.

Estes traços apontam para um conjunto bastante específico de utilizações. As funcionalidades de perguntas e respostas dentro de um produto são o encaixe óbvio: widgets de apoio, auxiliares de documentação, consultas de conhecimento interno e fluxos semelhantes em que um utilizador faz uma pergunta e espera uma resposta curta e com fontes. A entrada de imagem estende isto a casos em que a pergunta é sobre algo visual, como perguntar sobre o conteúdo de uma captura de ecrã ou de um documento fotografado. O limite elevado de saída adequa-se a tarefas que exigem uma resposta escrita longa, como resumir vários documentos ou redigir uma explicação detalhada, enquanto a janela de contexto grande permite passar material de contexto substancial sem o dividir.

Chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "perplexity/sonar". Os parâmetros de pedido suportados são frequency_penalty, max_tokens, presence_penalty, temperature, top_k, top_p e web_search_options. Os primeiros seis são os controlos habituais de amostragem e comprimento, pelo que pode ajustar quão determinística ou variada é a saída e limitar quantos tokens são devolvidos. web_search_options é o parâmetro a usar quando quer que o modelo recorra à pesquisa na web e é a principal alavanca para a personalização de fontes que o fornecedor menciona.

Não há aqui informação sobre limites de taxa, valores de latência ou precisão, pelo que estes precisam de ser testados com a sua própria carga de trabalho. Se a sua tarefa for geração de texto pura, sem necessidade de citações ou controlo de fontes, um modelo de texto simples pode ser mais adequado. O Sonar faz mais sentido quando respostas fundamentadas, com citações, e entrada de imagem opcional são centrais para aquilo que está a construir.