Perplexity: Sonar

Perplexity: Sonar är en textmodell från Perplexity, släppt den 27 januari 2025. Perplexity beskriver den som lättviktig, snabb, prisvärd och enkel att använda, med citeringar och möjlighet att anpassa källor. Den riktar sig till företag som vill integrera lättviktiga fråge- och svarsfunktioner i sina egna produkter i stället för att bygga en allmän assistent från grunden.

Modellen tar text och bilder som indata och returnerar text. Den har ett kontextfönster på 127 072 tokens och en maximal utdata på 114 364 tokens, så den kan hantera långa indata och producera långa svar i ett enda anrop. Kombinationen av bildindata med textutdata innebär att den kan läsa en skärmbild, ett diagram eller ett foto tillsammans med en skriftlig fråga och svara i löpande text. Eftersom leverantörens beskrivning lyfter fram citeringar och anpassningsbara källor kan svaren förankras i källor du väljer, vilket är viktigt när du behöver visa var ett svar kommer ifrån.

Dessa egenskaper pekar mot en ganska specifik uppsättning användningsområden. Fråge- och svarsfunktioner inuti en produkt är den uppenbara matchningen: supportwidgetar, dokumentationshjälp, interna kunskapsuppslagningar och liknande flöden där en användare ställer en fråga och förväntar sig ett kort svar med källor. Bildindata utökar detta till fall där frågan handlar om något visuellt, till exempel att fråga om innehållet i en skärmbild eller ett fotograferat dokument. Det höga taket för utdata passar uppgifter som kräver ett långt skriftligt svar, till exempel att sammanfatta flera dokument eller utforma en detaljerad förklaring, medan det stora kontextfönstret låter dig skicka in omfattande bakgrundsmaterial utan att dela upp det.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t "perplexity/sonar". De stödda begärandeparametrarna är frequency_penalty, max_tokens, presence_penalty, temperature, top_k, top_p och web_search_options. De första sex är de vanliga styrningarna för sampling och längd, så du kan justera hur deterministisk eller varierad utdata är och begränsa hur många tokens som kommer tillbaka. web_search_options är parametern att använda när du vill att modellen ska dra nytta av webbsökning och är den främsta hävstången för den källanpassning som leverantören nämner.

Det finns ingen information här om hastighetsbegränsningar, latenssiffror eller noggrannhet, så dessa behöver testas mot din egen arbetsbelastning. Om din uppgift är ren textgenerering utan behov av citeringar eller källkontroll kan en vanlig textmodell vara enklare. Sonar är mest meningsfull när förankrade svar med citeringar och valfria bildindata är centrala för det du bygger.