Perplexity: Sonar

Perplexity: Sonar는 Perplexity의 텍스트 모델로, 2025년 1월 27일에 출시되었습니다. Perplexity는 이 모델을 경량이고 빠르며 저렴하고 사용하기 간단하다고 설명하며, 인용과 소스 사용자 지정 기능을 갖추고 있습니다. 이는 범용 어시스턴트를 처음부터 구축하기보다는 자체 제품에 경량 질의응답 기능을 통합하려는 기업을 대상으로 합니다.

이 모델은 텍스트와 이미지를 입력으로 받고 텍스트를 반환합니다. 컨텍스트 윈도우는 127,072 토큰이고 최대 출력은 114,364 토큰이므로, 긴 입력을 담고 한 번의 호출로 긴 답변을 생성할 수 있습니다. 이미지 입력과 텍스트 출력의 조합은 스크린샷, 다이어그램 또는 사진을 서면 질문과 함께 읽고 산문으로 답할 수 있음을 의미합니다. 제공자 설명이 인용과 사용자 지정 가능한 소스를 강조하므로, 답변은 여러분이 선택한 소스에 근거할 수 있으며, 이는 답변이 어디서 왔는지 보여줘야 할 때 중요합니다.

이러한 특성은 상당히 특정한 용도 집합을 가리킵니다. 제품 내부의 질의응답 기능이 가장 확실한 적합 사례입니다. 지원 위젯, 문서 도우미, 내부 지식 조회, 그리고 사용자가 무언가를 묻고 짧고 출처가 있는 답변을 기대하는 이와 유사한 흐름이 그렇습니다. 이미지 입력은 질문이 시각적인 대상에 관한 경우로 이를 확장합니다. 예를 들어 스크린샷의 내용이나 사진으로 찍은 문서에 대해 묻는 경우입니다. 큰 출력 상한은 여러 문서를 요약하거나 상세한 설명을 작성하는 것처럼 긴 서면 응답이 필요한 작업에 적합하며, 큰 컨텍스트 윈도우는 상당한 배경 자료를 나누지 않고 전달할 수 있게 해줍니다.

이 모델은 모델 id "perplexity/sonar"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 지원되는 요청 매개변수는 frequency_penalty, max_tokens, presence_penalty, temperature, top_k, top_p 및 web_search_options입니다. 처음 여섯 개는 일반적인 샘플링 및 길이 제어이므로, 출력이 얼마나 결정적이거나 다양한지 조정하고 반환되는 토큰 수를 제한할 수 있습니다. web_search_options는 모델이 웹 검색을 활용하기를 원할 때 사용할 매개변수이며, 제공자가 언급한 소스 사용자 지정을 위한 주요 수단입니다.

여기에는 속도 제한, 지연 시간 수치 또는 정확도에 관한 정보가 없으므로, 이러한 항목은 여러분의 자체 워크로드에 맞춰 테스트해야 합니다. 작업이 인용이나 소스 제어가 필요 없는 순수한 텍스트 생성이라면 일반 텍스트 모델이 더 단순할 수 있습니다. Sonar는 근거가 있는 인용된 답변과 선택적 이미지 입력이 여러분이 구축하는 것의 중심일 때 가장 적합합니다.