Anthropic: Claude Sonnet 5 (batch)

Claude Sonnet 5 (batch)는 Anthropic의 텍스트 모델로, api14에서 모델 id anthropic/claude-sonnet-5:batch로 제공됩니다. Anthropic은 Sonnet 5를 자사의 가장 강력한 Sonnet급 모델이라고 설명하며, 코딩, 에이전트, 전문 업무 전반에서 최전선 수준의 성능을 갖추고 있습니다. batch 변형은 동일한 모델을 대화형 방식이 아니라 배치 처리 모드로 제공하는 것으로, 실시간 세션에서 각 호출을 기다리는 대신 많은 요청을 제출하고 결과를 수집하는 워크로드에 적합합니다.

이 모델은 텍스트, 이미지, 파일을 입력으로 받고 텍스트를 출력으로 생성합니다. 컨텍스트 윈도우는 1,000,000 토큰이고 최대 출력은 128,000 토큰입니다. Sonnet 5는 low, medium, high, max를 포함한 선택 가능한 추론 노력 수준과 함께 적응형 사고를 지원합니다. 이처럼 매우 큰 컨텍스트와 큰 출력 예산의 조합 덕분에 긴 문서, 텍스트와 이미지가 섞인 입력, 또는 파일 모음 전체를 단일 요청으로 넘기고도 상당한 분량의 응답을 받을 수 있습니다.

이러한 기능은 몇 가지 실용적인 패턴을 시사합니다. 긴 코드베이스 검토, 장문 보고서 요약 또는 추출, 여러 문서에 걸친 질의응답 같은 대규모 컨텍스트 작업이 자연스럽게 맞으며, 특히 문서가 파일이나 스캔 이미지로 들어오는 경우에 그렇습니다. 코딩 및 에이전트 스타일 작업은 모델이 내세우는 강점에 따르며, 도구 및 구조화된 출력 지원 덕분에 다른 시스템을 호출하는 파이프라인에서 추론 단계로 사용할 수 있습니다. 추론 노력이 선택 가능하므로 단순한 추출에는 낮추고 더 많은 숙고가 필요한 문제에는 높일 수 있으며, 배치 모드는 채팅 창이 아니라 일정이나 큐를 통해 실행되는 작업에 적합합니다.

api14를 통해 호출하려면 모델 id anthropic/claude-sonnet-5:batch와 함께 OpenAI 호환 chat completions 인터페이스를 사용하세요. 요청은 include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, stop, structured_outputs, tool_choice, tools, verbosity를 지원합니다. 실제로 이는 max_tokens로 출력 길이를 제한하고, reasoning_effort로 모델이 수행하는 사고량을 제어하며, response_format 또는 structured_outputs를 통해 기계 판독 가능한 출력을 요청하고, tools와 tool_choice로 호출 가능한 함수를 정의할 수 있다는 뜻입니다. include_reasoning 및 verbosity 매개변수를 사용하면 모델의 내부 추론을 얼마나 드러낼지와 응답에 얼마나 많은 세부 정보를 표시할지 결정할 수 있습니다.

고려해야 할 한 가지는 배치 모드 자체입니다. 이는 비동기적이고 대량 제출을 위해 설계되었으므로, 대화형 애플리케이션 안에서 동기 응답이 필요하다면 같은 모델의 비배치 배포가 더 자연스러운 선택입니다. 이 모델은 텍스트만 출력하므로 이미지나 오디오 생성이 필요한 작업은 범위 밖입니다. 다만 텍스트 작업에서는 1,000,000 토큰 컨텍스트와 128,000 토큰 출력 상한이 입력을 청크로 나눌 필요 없이 대부분의 장문 문서 및 장문 생성 사례를 포괄합니다.