Writer: Palmyra X5

작성자: Palmyra X5는 Writer의 텍스트 모델로, api14에 모델 id writer/palmyra-x5로 등록되어 있습니다. Writer는 이 모델을 엔터프라이즈 전반에서 AI 에이전트를 구축하고 확장하기 위해 특별히 설계된 가장 발전된 모델이라고 설명합니다. 텍스트 카테고리에 속하므로 이미지, 오디오 또는 기타 모달리티보다는 언어 작업을 대상으로 합니다.

이 모델은 텍스트를 입력받아 텍스트를 출력합니다. 컨텍스트 윈도우는 1,040,000 토큰으로, 백만 토큰을 약간 넘으며, 최대 출력은 8,192 토큰입니다. Writer의 자체 설명은 최대 100만 토큰의 컨텍스트 윈도우에서 업계를 선도하는 속도와 효율성을 강조하므로, 큰 윈도우는 부수적인 수치가 아니라 설계의 의도적인 일부입니다. 여기에는 비전이나 오디오 입력이 없습니다. 보내는 모든 것은 텍스트여야 합니다.

이처럼 매우 큰 컨텍스트 윈도우와 적당한 출력 상한의 조합이 실제 사용 사례를 형성합니다. 긴 문서, 대규모 코드베이스, 확장된 트랜스크립트, 다중 문서 세트를 청킹 없이 단일 요청으로 제공할 수 있으며, 이는 검색 중심 에이전트 워크플로, 긴 소스에 대한 요약, 큰 참조 자료에 근거한 질의 응답, 답변은 짧지만 근거가 여러 페이지에 흩어져 있는 추출 작업에 적합합니다. 출력이 8,192 토큰으로 제한되므로, 긴 생성 문서보다는 집중된 응답이 필요할 때 가장 잘 맞습니다.

모델 id writer/palmyra-x5를 사용해 api14의 OpenAI 호환 API를 통해 호출하므로, 기존 OpenAI 클라이언트 라이브러리와 요청 형식이 특별한 처리 없이 작동합니다. 지원되는 요청 파라미터는 max_tokens, stop, temperature, top_k, top_p입니다. max_tokens를 사용해 8,192 출력 상한 내에서 응답을 제한하고, stop으로 생성이 중단될 지점을 정의하며, temperature, top_k, top_p로 샘플링을 제어합니다. 다른 파라미터는 지원되는 것으로 나열되어 있지 않으므로, 요청을 이 집합으로 유지하세요.

계획할 때 고려해야 할 주요 제약은 8,192 토큰의 출력 제한입니다. 작업이 긴 보고서, 전체 파일 또는 확장된 산문을 한 번에 생성하는 것이라면, 이 모델은 완료되기 전에 잘라내므로 출력 허용량이 더 큰 모델이 더 적합할 수 있습니다. Palmyra X5는 입력이 크고 필요한 답변이 상대적으로 작을 때 가장 강력합니다.