Cohere: Rerank 4 Fast

Cohere: Rerank 4 Fast는 Cohere의 리랭킹 모델로, 제공업체가 2026년 4월 6일에 출시했습니다. 이 모델은 채팅이나 생성 카테고리가 아니라 리랭크 카테고리에 속합니다. 답변을 작성하는 대신, 쿼리에 대해 후보 문서 목록의 점수를 매기고 재정렬하여 가장 관련성 높은 항목이 먼저 나타나도록 합니다. Cohere는 이를 검색 및 검색 증강 생성 시스템 내에서 표시되는 정보의 관련성을 개선하기 위해 구축된 AI 검색 파운데이션 모델이라고 설명합니다.

이 모델은 텍스트를 유일한 입력 모달리티로 받아들이고 리랭크 출력, 즉 관련성 점수가 포함된 정렬된 문서 목록을 생성합니다. 32,768 토큰의 컨텍스트 윈도우를 지원하며, 이는 단일 요청에서 전달되는 쿼리와 문서 전반에 적용되고, 최대 출력은 29,491입니다. 다국어 지원은 100개 이상의 언어를 포괄하며, 제공업체는 모델에 텍스트를 보내기 전에 데이터 전처리가 필요하지 않다고 밝힙니다.

이러한 기능은 상당히 특정한 용도 집합을 가리킵니다. 가장 일반적인 용도는 검색 파이프라인의 두 번째 단계입니다. 빠른 첫 번째 단계 검색기가 광범위한 후보 집합을 반환하고, Rerank 4 Fast가 이를 재정렬하여 쿼리에 답할 가능성이 가장 높은 구절이 생성 모델에 도달하기 전에 상위에 오도록 합니다. 동일한 패턴이 답변 생성보다 관련성 정렬이 더 중요한 엔터프라이즈 검색과, LLM에 프롬프트하기 전에 노이즈가 많은 컨텍스트를 정리해야 하는 RAG 시스템에도 적용됩니다. 다국어 지원 덕분에 여러 언어의 쿼리와 문서를 동시에 처리하는 파이프라인에서 사용할 수 있으며, 32K 컨텍스트는 한 번의 호출로 긴 쿼리와 상당한 양의 후보 구절 배치를 허용합니다.

모델 id "cohere/rerank-4-fast"와 함께 OpenAI 호환 API를 사용하여 api14를 통해 호출합니다. api14가 OpenAI 호환 표면을 노출하므로, 별도의 SDK를 도입하는 대신 기존 OpenAI 클라이언트를 api14 기본 URL로 지정하고 model 필드를 해당 id로 변경할 수 있습니다. 이 모델은 텍스트 입력을 받아들이고 리랭크 출력을 반환합니다. 이 모델에 대해 지원되는 것으로 나열된 추가 요청 파라미터는 없으므로, 기본값과 전송하는 프롬프트 및 문서 내용을 중심으로 통합을 계획하고, 현재 요금은 페이지의 실시간 가격표를 확인하세요.

염두에 두어야 할 한 가지 실용적인 제약은 32K 컨텍스트 윈도우로, 이는 요청 내의 쿼리와 모든 후보 문서를 포괄해야 합니다. 문서가 길거나 한 번에 매우 큰 후보 집합의 순위를 매겨야 하는 경우, 작업을 배치로 나누거나 먼저 구절을 줄이세요. 또한 Rerank 4 Fast는 텍스트를 생성하지 않습니다. 요약, 질의응답 또는 대화형 출력이 필요하면 생성 모델과 함께 사용하고 이 모델은 순전히 정렬용으로만 사용하세요.