VoyageAI by MongoDB: rerank-2.5-lite

MongoDB의 VoyageAI: rerank-2.5-lite는 Voyage AI의 reranking 모델이며, 이 제공자의 reranking 제품군은 현재 MongoDB의 일부입니다. 이 모델은 rerank 카테고리에 속하므로, 그 역할은 텍스트를 생성하는 것이 아니라 후보 문서 집합을 받아 쿼리와의 관련성에 따라 재정렬하는 것입니다. 제공자는 2026-07-27에 이를 출시했습니다. 검색 파이프라인을 구축 중이고 벡터 또는 키워드 검색에서 이미 1차 결과를 확보한 경우, 이 모델은 그 결과 중 어떤 것이 실제로 상위에 있어야 하는지를 결정하는 2단계입니다.

이 모델은 텍스트 입력을 받고 reranking 출력을 생성합니다. 컨텍스트 길이는 32000 토큰이고 최대 출력은 28800입니다. 입력 측에서는 텍스트만 지원되므로 이미지나 오디오 처리는 없습니다. 제공자는 rerank-2.5-lite가 지연 시간과 품질 모두에 최적화되어 있으며, 93개 데이터셋에서 Cohere Rerank v3.5 대비 검색 정확도가 7.16% 향상되었다고 밝힙니다. 제공자는 또한 Cohere Rerank v3.5를 능가했다고 밝히며, 이는 Voyage AI가 공개하기로 선택한 비교 기준입니다.

이러한 기능은 상당히 구체적인 사용 사례를 가리킵니다. 가장 명확한 것은 검색입니다. 1단계 retriever에서 상위 50개 또는 100개 결과를 가져와 사용자 쿼리와 함께 이 모델에 전달하고, 답변이나 다음 단계를 위해 가장 높은 점수를 받은 몇 개만 유지합니다. 동일한 패턴은 retrieval augmented generation에도 적용되며, 여기서 reranker는 생성 모델에 전송되는 관련 없는 컨텍스트의 양을 줄입니다. 또한 내부 지식 베이스 문서나 지원 티켓을 자연어 쿼리에 대해 정렬하는 문서 순위 지정 작업에도 적합하며, 목록 상단의 정밀도가 원시 재현율보다 더 중요한 모든 파이프라인에 맞습니다.

모델 id "voyageai/rerank-2.5-lite"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 엔드포인트가 OpenAI 스키마를 따르므로 기존 OpenAI 클라이언트를 api14로 지정하고 model id를 해당 문자열로 설정한 뒤 일반적인 형태로 요청을 보낼 수 있습니다. 이 모델의 지원되는 매개변수 목록은 비어 있으므로 rerank 요청 자체에 필요한 것 외에 설정할 추가 튜닝 옵션은 없습니다. 요청에는 쿼리와 점수를 매길 문서가 포함되고, 생성된 산문이 아니라 reranking 결과를 기대해야 합니다.

고려해야 할 한 가지는 이것이 채팅이나 completion 모델이 아니라 reranker라는 점입니다. 답변을 작성하거나 요약하거나 도구를 호출하는 어시스턴트가 필요하다면 생성 모델이 올바른 선택이며, 이 모델은 그 앞에서 지원 단계 역할만 합니다. 또한 텍스트 전용이므로 멀티모달 검색은 범위를 벗어납니다. 이러한 범위 내에서 rerank-2.5-lite는 Voyage AI가 공표하는 정확도 주장과 함께 낮은 지연 시간의 2단계 reranker를 원하는 팀을 대상으로 합니다.