쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
mongodb/rerank-2.5위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
MongoDB의 VoyageAI: rerank-2.5는 MongoDB의 VoyageAI에서 제공하는 리랭킹 모델입니다. 이는 rerank 범주에 속하며, 처음부터 새로운 텍스트를 생성하는 것이 아니라 기존 후보 결과 집합을 관련성에 따라 재정렬하는 것이 그 역할입니다. 텍스트 모델이며, 출력은 리랭크 결과입니다.
이 모델은 텍스트를 입력으로 받아 재정렬된 출력을 생성합니다. 컨텍스트 길이는 32,000 토큰이고 최대 출력은 28,800입니다. 리랭커이기 때문에 산문을 쓰거나 질문에 답하거나 대화를 나누지 않습니다. 대신 쿼리를 기준으로 구절의 점수를 매기고 순서를 정하며, 이는 일반적으로 초기 검색 단계와 다운스트림 모델에 전달되거나 사용자에게 표시되는 최종 문서 집합 사이에 위치하는 단계입니다.
이러한 형태 덕분에 검색 품질이 중요한 곳이라면 어디든 유용합니다. 흔한 패턴은 2단계 검색 파이프라인입니다. 빠른 벡터 또는 키워드 검색이 광범위한 후보 목록을 반환하고, rerank-2.5가 그 후보들의 순서를 재정렬하여 가장 관련성 높은 항목이 맨 위에 오도록 합니다. 이는 더 나은 순서가 생성기가 가장 강력한 컨텍스트를 먼저 보게 함을 의미하는 검색 증강 생성에 적용되며, 문서, 지원 티켓, 내부 지식 베이스 또는 제품 카탈로그 검색에도 적용됩니다. 또한 대규모 쿼리와 문서 쌍 집합 전반에 걸쳐 일관된 관련성 순서가 필요한 평가 및 데이터 큐레이션 작업에도 적합합니다.
모델 id "mongodb/rerank-2.5"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 엔드포인트가 OpenAI 형식을 따르므로 기존 OpenAI 클라이언트의 base URL을 변경하고 요청에 해당 모델 id를 전달하여 api14를 가리키게 할 수 있습니다. 이 모델은 지원되는 파라미터를 나열하지 않으므로 조정할 샘플링 또는 생성 옵션이 없습니다. 쿼리와 문서를 보내면 재정렬된 순서를 돌려받습니다. 32,000 토큰 컨텍스트는 단일 호출에서 얼마나 많은 후보를 제출할지 결정할 때 염두에 두어야 할 예산입니다.
작업이 텍스트 생성, 요약, 채팅 또는 도구 사용이라면 리랭커는 잘못된 도구이며 생성 모델이 더 적합합니다. rerank-2.5는 독립형 어시스턴트라기보다 파이프라인의 한 단계로 취급하는 것이 가장 좋으며, 더 정교한 순서가 필요한 후보 집합이 이미 있을 때 가장 가치가 있습니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
이 커뮤니티에는 아직 토픽이 없습니다. VoyageAI by MongoDB: rerank-2.5에 대한 첫 토픽을 열어 보세요.