쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
처음이신가요? 사용법을 확인해 보세요 플레이그라운드, 모델, API 키를 1분 만에 둘러보세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
mongodb/rerank-3-lite위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
MongoDB의 VoyageAI: rerank-3-lite는 MongoDB의 VoyageAI에서 제공하는 리랭킹 모델입니다. 리랭크 범주에 속하며, 새로운 텍스트를 생성하는 대신 후보 문서 집합을 받아 쿼리와의 관련성에 따라 재정렬하는 역할을 합니다. 이는 rerank-2.5-lite에 대한 별도 변경 없이 교체 가능한 업그레이드로 자리매김되어 있으며, 즉 해당 모델을 이미 사용 중인 팀은 통합 방식을 바꾸지 않고도 이 모델로 이동할 수 있습니다.
이 모델은 텍스트를 입력으로 받아 리랭킹을 출력으로 생성합니다. 컨텍스트 길이는 32,000 토큰이고 최대 출력은 28,800입니다. 그 목적이 생성이 아니라 점수 부여와 정렬이기 때문에, 반환되는 유용한 정보는 제공한 구절들에 대한 관련성 순서이며, 지연 시간과 품질 사이의 균형을 맞추도록 설계되었습니다. 도메인 평가 전반에서 rerank-2.5-lite 대비 평균 NDCG@10이 0.94% 향상되었고, 추가로 1.86%의 개선이 있습니다. 이 측정된 이득은 이전 lite 모델이 이미 프로덕션에 있는 곳에서 저위험 대체 모델로 만들어 줍니다.
실용적인 사용 사례는 이러한 기능에서 직접 이어집니다. 1단계 검색기가 광범위한 후보 집합을 반환하고 리랭커가 언어 모델에 도달하기 전에 이를 좁히고 정렬하는 검색 증강 생성 파이프라인에 적합합니다. 원시 일치보다 결과 순서가 더 중요한 검색 및 사이트 검색에 알맞습니다. 또한 문서 컬렉션, 내부 지식 베이스, 지원 콘텐츠에 대한 질의응답, 그리고 특정 쿼리에 얼마나 잘 답하는지에 따라 구절을 정렬해야 하는 모든 워크플로에 적합합니다. 큰 컨텍스트 예산 덕분에 긴 후보 구절을 과도한 잘림 없이 포함할 수 있으며, 지연 시간에 대한 강조는 오프라인 배치 작업뿐 아니라 대화형 애플리케이션에도 합리적으로 사용할 수 있게 합니다.
api14의 OpenAI 호환 API를 통해 모델 id "mongodb/rerank-3-lite"를 사용하여 호출합니다. 지원되는 매개변수 목록이 비어 있으므로, 요청에서 튜닝 옵션을 기대하지 말고 입력과 함께 모델 id를 전달하고 기본값에 의존하십시오. 엔드포인트가 OpenAI 호환 형태를 따르므로, 기존 클라이언트 라이브러리와 코드 경로를 최소한의 변경으로 api14와 이 모델 id를 가리키도록 할 수 있습니다.
이것은 생성기가 아니라 리랭커라는 점을 유의할 가치가 있습니다. 답변을 작성하거나 요약하거나 대화를 나누는 것이 과제라면 텍스트 생성 모델이 올바른 선택이며, 이 모델은 그 앞단의 단계로 사용할 때 가장 잘 작동합니다. 쿼리에 대해 텍스트에 점수를 매기거나 정렬해야 한다면 이것이 적합한 선택입니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3-lite",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
이 커뮤니티에는 아직 토픽이 없습니다. VoyageAI by MongoDB: rerank-3-lite에 대한 첫 토픽을 열어 보세요.