Perplexity: Sonar

Perplexity: Sonar è un modello testuale di Perplexity, rilasciato il 27 gennaio 2025. Perplexity lo descrive come leggero, veloce, conveniente e semplice da usare, con citazioni e la capacità di personalizzare le fonti. È pensato per le aziende che vogliono integrare funzionalità leggere di domande e risposte nei propri prodotti invece di costruire un assistente generico da zero.

Il modello accetta testo e immagini come input e restituisce testo. Ha una finestra di contesto di 127.072 token e un output massimo di 114.364 token, quindi può contenere input lunghi e produrre risposte lunghe in una singola chiamata. La combinazione di input di immagini con output testuale significa che può leggere uno screenshot, un diagramma o una foto insieme a una domanda scritta e rispondere in prosa. Poiché la descrizione del provider evidenzia citazioni e fonti personalizzabili, le risposte possono essere basate su fonti che scegli tu, il che conta quando devi mostrare da dove proviene una risposta.

Questi tratti indicano un insieme di utilizzi piuttosto specifico. Le funzionalità di domande e risposte all'interno di un prodotto sono l'adattamento ovvio: widget di supporto, helper per la documentazione, ricerche nella knowledge base interna e flussi simili in cui un utente chiede qualcosa e si aspetta una risposta breve e con fonti. L'input di immagini estende questo ai casi in cui la domanda riguarda qualcosa di visivo, come chiedere informazioni sul contenuto di uno screenshot o di un documento fotografato. Il tetto elevato di output si adatta a compiti che richiedono una lunga risposta scritta, come riassumere diversi documenti o redigere una spiegazione dettagliata, mentre l'ampia finestra di contesto ti consente di passare materiale di background sostanzioso senza suddividerlo.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "perplexity/sonar". I parametri di richiesta supportati sono frequency_penalty, max_tokens, presence_penalty, temperature, top_k, top_p e web_search_options. I primi sei sono i soliti controlli di campionamento e lunghezza, quindi puoi regolare quanto l'output è deterministico o vario e limitare quanti token vengono restituiti. web_search_options è il parametro a cui ricorrere quando vuoi che il modello attinga alla ricerca web ed è la leva principale per la personalizzazione delle fonti menzionata dal provider.

Qui non ci sono informazioni su limiti di velocità, dati di latenza o accuratezza, quindi questi devono essere testati sul tuo carico di lavoro. Se il tuo compito è pura generazione di testo senza necessità di citazioni o controllo delle fonti, un modello testuale semplice può essere più adatto. Sonar ha più senso quando risposte basate su fonti, citate e l'input opzionale di immagini sono centrali per ciò che stai costruendo.