쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
mongodb/rerank-3위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
MongoDB의 VoyageAI: rerank-3는 MongoDB의 VoyageAI에서 제공하는 리랭킹 모델입니다. 이 모델은 rerank 카테고리에 속하며, rerank-2.5에 대한 드롭인 업그레이드로 포지셔닝되어 있습니다. 즉, 이전 모델을 이미 사용 중인 팀은 통합을 다시 작업하지 않고도 rerank-3로 이동할 수 있습니다. 이 모델은 생성이 아니라 검색 품질을 위해 만들어졌으므로, 검색 결과나 후보 구절이 사용자나 다운스트림 모델에 도달하기 전에 어떤 순서로 정렬되어야 하는지를 결정하는 파이프라인 부분에 속합니다.
이 모델은 텍스트를 입력으로 받고 리랭킹 출력을 생성합니다. 32,000 토큰의 컨텍스트 길이를 지원하며 최대 출력은 28,800으로, 짧은 스니펫뿐만 아니라 긴 후보 구절도 쿼리와 함께 채점할 수 있는 충분한 여유가 있습니다. 입력 모달리티가 텍스트이고 출력 모달리티가 rerank이므로, 이 모델은 산문이나 채팅 답변을 생성하지 않습니다. 주어진 구절의 순서를 반환합니다. 따라서 이는 대화형 구성 요소가 아니라 채점 및 정렬 구성 요소입니다.
실용적인 사용 사례는 이러한 형태에서 직접 따라옵니다. 검색 파이프라인은 빠른 1단계 검색으로 넓은 후보 집합을 가져온 다음, 쿼리와 해당 후보를 rerank-3에 전달하여 더 나은 최종 순서를 생성할 수 있습니다. 이는 문서, 내부 지식 베이스, 지원 콘텐츠 또는 원시 재현율보다 상위 결과가 더 중요한 모든 코퍼스에 대한 검색에서 유용합니다. 또한 프롬프트에 들어가는 구절의 품질이 이후 답변에 영향을 미치는 검색 증강 생성 설정에도 적합합니다. 긴 컨텍스트와 긴 출력 허용량 덕분에 긴 문서를 포함하는 컬렉션에 적합합니다. 모델이 위치를 할당할 때 각 후보의 더 많은 부분을 고려할 수 있기 때문입니다.
모델 id "mongodb/rerank-3"를 사용하여 api14의 OpenAI 호환 API를 통해 이 모델을 호출합니다. 인터페이스가 OpenAI 형식을 따르므로 기존 OpenAI 클라이언트를 api14로 지정하고 요청에서 이 모델 id를 선택할 수 있습니다. 이 모델은 모델 id 자체 외에는 지원되는 파라미터를 나열하지 않으므로 temperature나 top_p 같은 샘플링 또는 생성 설정을 조정할 것으로 기대해서는 안 됩니다. 그런 설정은 리랭커가 아니라 생성 모델에 속합니다. 쿼리와 후보 텍스트를 보내고 리랭킹 출력을 받으십시오.
rerank-3는 리랭커이므로 텍스트 생성, 채팅, 요약 또는 임베딩이 필요할 때는 올바른 선택이 아니라는 점에 유의할 가치가 있습니다. 작업이 후보의 순서를 정하는 것이 아니라 답변을 생성하는 것이라면 생성 모델이 더 적합합니다. 작업이 리랭커가 이후에 재정렬하는 초기 벡터 표현을 만드는 것이라면 임베딩 모델이 적절한 구성 요소입니다. 리랭킹 작업 내에서 rerank-3는 rerank-2.5의 드롭인 후속 모델이며, 제공자는 해당 모델 대비 도메인 평가 전반에서 평균 0.80% NDCG@10, 긴 문서 평가에서 3.35%의 개선을 보고합니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
이 커뮤니티에는 아직 토픽이 없습니다. VoyageAI by MongoDB: rerank-3에 대한 첫 토픽을 열어 보세요.