Perplexity: Sonar Pro

Perplexity: Sonar Pro ist ein Textgenerierungsmodell von Perplexity, das vom Anbieter am 7. März 2025 veröffentlicht wurde. Es gehört zur Kategorie Text und richtet sich an Entwickler, die ein gehostetes Modell benötigen, das Anfragen beantworten kann, optional mit WebSuche im Hintergrund. Perplexity entwickelt das Modell und stellt es über eine eigene API bereit, und api14 stellt es über eine OpenAIkompatible Schnittstelle bereit, sodass du es aufrufen kannst, ohne deinen bestehenden ClientCode zu ändern.

Das Modell akzeptiert Text und Bildeingaben und gibt nur Text zurück. Es hat ein Kontextfenster von 200.000 Tokens, was groß genug ist, um lange Dokumente, Transkripte oder mehrstufige Gespräche zusammen mit deinen Anweisungen aufzunehmen. Die maximale Ausgabe beträgt 8.000 Tokens, sodass Antworten begrenzt bleiben, selbst wenn die Eingabe sehr lang ist. Unterstützte Anfrageparameter sind frequency_penalty, max_tokens, presence_penalty, temperature, top_k, top_p und web_search_options. Der Parameter web_search_options ist hier der bemerkenswerte, da er dir erlaubt, das Suchverhalten zu steuern, auf dem Sonar Pro aufbaut.

Diese Fähigkeiten weisen auf einige praktische Einsatzmöglichkeiten hin. Recherche und Fragebeantwortung über aktuelle Informationen sind die naheliegende Passung, weil das Modell einen großen Kontext mit WebSuche kombinieren kann, statt sich nur auf das zu verlassen, was es während des Trainings gelernt hat. Du kannst ihm einen langen Bericht, eine Reihe von Dokumenten oder ein Bild zusammen mit einer Frage geben und eine schriftliche Antwort anfordern. Zusammenfassung, Vergleich und mehrstufige Untersuchungsaufgaben funktionieren ebenfalls gut, da das Fenster von 200.000 Tokens es dir erlaubt, Quellmaterial in derselben Anfrage zu behalten, statt es aufzuteilen. Bildeingabe bedeutet, dass Screenshots, Diagramme oder gescannte Seiten Teil des Prompts sein können.

Um es über api14 aufzurufen, verwende die ModellID "perplexity/sonar-pro" mit dem OpenAIkompatiblen ChatCompletionsEndpunkt. Deine Anfrage kann frequency_penalty, max_tokens, presence_penalty, temperature, top_k, top_p und web_search_options setzen, und du kannst Text und Bildinhalte im messagesArray senden. Weil die Schnittstelle zu der von OpenAI passt, funktionieren bestehende SDKs und Bibliotheken im Allgemeinen, wenn nur die BasisURL und die ModellID geändert werden.

Eine Grenze, die es zu beachten gilt, ist die Obergrenze von 8.000 Tokens für die Ausgabe, was knapp sein kann, wenn du sehr lange generierte Dokumente in einer einzigen Antwort benötigst. Wenn deine Aufgabe keine WebSuche erfordert oder du Ausgabemodalitäten außer Text benötigst, könnte ein anderes Modell besser passen. Für suchgestützte Antworten über lange Eingaben ist Sonar Pro die geeignete Wahl.