Perplexity: Sonar

Perplexity : Sonar est un modèle de texte de Perplexity, publié le 27 janvier 2025. Perplexity le décrit comme léger, rapide, abordable et simple à utiliser, avec des citations et la possibilité de personnaliser les sources. Il s'adresse aux entreprises qui souhaitent intégrer des fonctionnalités légères de questions et réponses dans leurs propres produits plutôt que de construire un assistant polyvalent à partir de zéro.

Le modèle accepte du texte et des images en entrée et renvoie du texte. Il dispose d'une fenêtre de contexte de 127 072 tokens et d'une sortie maximale de 114 364 tokens, il peut donc contenir de longues entrées et produire de longues réponses en un seul appel. La combinaison de l'entrée d'images avec la sortie de texte signifie qu'il peut lire une capture d'écran, un schéma ou une photo en même temps qu'une question écrite et répondre en prose. Étant donné que la description du fournisseur met en avant les citations et les sources personnalisables, les réponses peuvent être fondées sur les sources que vous choisissez, ce qui compte lorsque vous devez montrer d'où vient une réponse.

Ces caractéristiques indiquent un ensemble d'usages assez spécifique. Les fonctionnalités de questions et réponses au sein d'un produit sont le cas d'usage évident : widgets d'assistance, aides à la documentation, recherches dans les connaissances internes et flux similaires où un utilisateur pose une question et attend une réponse courte et sourcée. L'entrée d'images étend cela aux cas où la question porte sur quelque chose de visuel, comme demander le contenu d'une capture d'écran ou d'un document photographié. Le plafond de sortie élevé convient aux tâches qui nécessitent une longue réponse écrite, comme résumer plusieurs documents ou rédiger une explication détaillée, tandis que la grande fenêtre de contexte vous permet de transmettre un volume important de documentation sans la diviser.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "perplexity/sonar". Les paramètres de requête pris en charge sont frequency_penalty, max_tokens, presence_penalty, temperature, top_k, top_p et web_search_options. Les six premiers sont les contrôles habituels d'échantillonnage et de longueur, vous pouvez donc ajuster le caractère déterministe ou varié de la sortie et limiter le nombre de tokens renvoyés. web_search_options est le paramètre à utiliser lorsque vous voulez que le modèle s'appuie sur la recherche web et constitue le principal levier de la personnalisation des sources mentionnée par le fournisseur.

Il n'y a ici aucune information sur les limites de débit, les chiffres de latence ou la précision, il faut donc les tester par rapport à votre propre charge de travail. Si votre tâche est de la génération de texte pure sans besoin de citations ni de contrôle des sources, un modèle de texte simple peut être plus adapté. Sonar a le plus de sens lorsque des réponses fondées et citées et une entrée d'images optionnelle sont au cœur de ce que vous construisez.