Perplexity: Sonar

Perplexity: Sonar ist ein Textmodell von Perplexity, veröffentlicht am 27. Januar 2025. Perplexity beschreibt es als leichtgewichtig, schnell, kostengünstig und einfach zu verwenden, mit Zitaten und der Möglichkeit, Quellen anzupassen. Es richtet sich an Unternehmen, die leichte Frage-und-Antwort-Funktionen in ihre eigenen Produkte integrieren wollen, anstatt einen allgemeinen Assistenten von Grund auf neu zu entwickeln.

Das Modell akzeptiert Text und Bilder als Eingabe und gibt Text zurück. Es hat ein Kontextfenster von 127.072 Tokens und eine maximale Ausgabe von 114.364 Tokens, sodass es lange Eingaben aufnehmen und lange Antworten in einem einzigen Aufruf erzeugen kann. Die Kombination aus Bildeingabe und Textausgabe bedeutet, dass es einen Screenshot, ein Diagramm oder ein Foto zusammen mit einer geschriebenen Frage lesen und in Prosa antworten kann. Da die Anbieterbeschreibung Zitate und anpassbare Quellen hervorhebt, können Antworten auf Quellen gestützt werden, die Sie auswählen, was wichtig ist, wenn Sie zeigen müssen, woher eine Antwort stammt.

Diese Eigenschaften deuten auf eine ziemlich spezifische Reihe von Anwendungen hin. Frage-und-Antwort-Funktionen in einem Produkt sind die naheliegende Passform: Support-Widgets, Dokumentationshelfer, interne Wissensabfragen und ähnliche Abläufe, bei denen ein Benutzer etwas fragt und eine kurze, belegte Antwort erwartet. Die Bildeingabe erweitert dies auf Fälle, in denen die Frage etwas Visuelles betrifft, etwa die Frage nach dem Inhalt eines Screenshots oder eines fotografierten Dokuments. Die hohe Ausgabeobergrenze eignet sich für Aufgaben, die eine lange schriftliche Antwort erfordern, wie das Zusammenfassen mehrerer Dokumente oder das Verfassen einer detaillierten Erklärung, während das große Kontextfenster es ermöglicht, umfangreiches Hintergrundmaterial zu übergeben, ohne es aufzuteilen.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID "perplexity/sonar" auf. Die unterstützten Anforderungsparameter sind frequency_penalty, max_tokens, presence_penalty, temperature, top_k, top_p und web_search_options. Die ersten sechs sind die üblichen Steuerungen für Sampling und Länge, sodass Sie einstellen können, wie deterministisch oder variiert die Ausgabe ist, und begrenzen können, wie viele Tokens zurückkommen. web_search_options ist der Parameter, den Sie verwenden, wenn Sie möchten, dass das Modell auf Web Suche zurückgreift, und ist der wichtigste Hebel für die vom Anbieter erwähnte Anpassung der Quellen.

Es gibt hier keine Informationen über Ratenlimits, Latenzwerte oder Genauigkeit, daher müssen diese gegen Ihre eigene Arbeitslast getestet werden. Wenn Ihre Aufgabe reine Textgenerierung ohne Bedarf an Zitaten oder Quellenkontrolle ist, kann ein reines Textmodell einfacher sein. Sonar ist am sinnvollsten, wenn belegte, zitierte Antworten und optionale Bildeingabe zentral für das sind, was Sie bauen.