Amazon: Nova Pro 1.0

Amazon Nova Pro 1.0은 Amazon의 텍스트 생성 모델로, api14에 모델 id amazon/nova-pro-v1로 등록되어 있습니다. 텍스트 카테고리에 속하며, Amazon은 이를 다양한 작업에서 정확성, 속도, 비용을 결합하도록 구축된 유능한 멀티모달 모델이라고 설명합니다. 제공업체가 2024년 12월 5일에 출시했으며, 지식 컷오프는 2024년 10월 31일이므로 그 이후에 발생한 모든 것은 모델이 학습한 범위 밖입니다.

입력 측면에서 Nova Pro 1.0은 텍스트와 이미지를 받으므로 텍스트 전용이 아니라 멀티모달입니다. 출력은 텍스트입니다. 컨텍스트 윈도는 300,000 토큰으로, 긴 문서, 장시간의 대화 기록 또는 단일 요청에서 텍스트와 이미지의 혼합을 담을 수 있을 만큼 큽니다. 최대 출력은 5,120 토큰이므로 응답은 입력 용량보다 훨씬 낮게 제한됩니다. 작업이 매우 긴 단일 응답을 생성하는 데 달려 있다면, 그 출력 상한이 염두에 두어야 할 수치입니다.

이러한 기능은 상당히 폭넓은 실용적 용도를 가리킵니다. 텍스트뿐 아니라 이미지도 읽기 때문에 스크린샷, 다이어그램, 사진, 스캔한 페이지를 작성된 지시와 함께 설명하거나 추론하는 작업에 적합합니다. 300,000 토큰 컨텍스트는 긴 문서 분석, 큰 파일 요약, 이전 컨텍스트가 계속 보여야 하는 다중 턴 대화에 알맞습니다. 도구 지원은 모델이 함수나 외부 서비스를 호출하는 워크플로에서 사용할 수 있음을 의미하며, 이는 어시스턴트와 에이전트에 유용합니다. 일반적인 텍스트 생성, 추출, 혼합 텍스트 및 이미지 입력에 대한 질의응답 모두 합리적으로 적합합니다.

모델은 모델 id "amazon/nova-pro-v1"을 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 지원되는 요청 파라미터는 max_tokens, stop, temperature, tools, top_k, top_p입니다. 이는 일반적인 샘플링 제어(temperature, top_p, top_k), max_tokens를 통한 출력 길이, 중지 시퀀스, tools를 통한 도구 또는 함수 호출을 포괄합니다. 인터페이스가 OpenAI 호환이므로 OpenAI 채팅 형식을 대상으로 하는 기존 클라이언트와 SDK는 일반적으로 모델 id와 base URL만 변경하면 작동합니다.

확정하기 전에 저울질해 볼 만한 두 가지 한계가 있습니다. 최대 출력 5,120 토큰은 300,000 토큰 입력 윈도에 비해 적당하므로, 매우 긴 생성 답변이 필요한 워크로드는 제약을 받을 수 있습니다. 또한 2024년 10월 31일이라는 지식 컷오프는 모델이 이후 사건을 내장적으로 인식하지 못한다는 뜻이므로, 최신 정보에 의존하는 작업은 모델 자체 지식이 아니라 검색이나 도구가 필요합니다. 작업이 텍스트 전용이고 이미지 입력의 이점을 받지 못한다면 텍스트 전용 모델이 더 단순한 선택일 수 있지만, 긴 컨텍스트를 가진 혼합 텍스트 및 이미지 작업에는 Nova Pro 1.0이 여기 설명된 범위를 충족합니다.