쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
처음이신가요? 사용법을 확인해 보세요 플레이그라운드, 모델, API 키를 1분 만에 둘러보세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
cohere/rerank-5-fast위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
Cohere: Rerank 5 Fast는 Cohere의 리랭킹 모델로, 회사의 Rerank 5 제품군에서 지연 시간이 짧은 등급으로 자리 잡고 있습니다. 텍스트를 생성하는 대신 쿼리에 대해 후보 문서의 점수를 매기고 재정렬하므로, 생성 단계가 아니라 검색 또는 RAG 파이프라인의 검색 단계에 위치합니다.
이 모델은 텍스트 입력으로 작동하고 리랭크 출력을 생성합니다. 즉, 응답은 새로운 문장이 아니라 제공한 문서의 순서입니다. 컨텍스트 길이는 32768 토큰을 지원하며, 최대 출력은 29491입니다. 점수 매기기와 재정렬을 위해 만들어졌기 때문에 채팅 모델에서 기대할 수 있는 샘플링 또는 생성 매개변수를 받지 않습니다.
실용적인 사용 사례는 이러한 동작에서 직접 따라옵니다. 벡터 검색이나 키워드 검색 같은 1단계 검색기를 실행하는 경우, Rerank 5 Fast는 반환된 상위 후보를 가져와 가장 관련성 높은 문서가 맨 위에 오도록 재정렬할 수 있습니다. 이는 다운스트림 답변 생성기에 입력하는 내용의 품질을 향상시키며, 검색 결과를 사용자에게 직접 표시할 때도 도움이 됩니다. 지연 시간이 짧은 등급은 높은 처리량의 검색을 목표로 하므로, 많은 쿼리를 발행하면서 각 쿼리마다 느린 리랭킹 단계를 감당할 수 없는 파이프라인에 적합합니다.
모델 id "cohere/rerank-5-fast"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 엔드포인트가 OpenAI 형식을 따르므로 기존 OpenAI 클라이언트 라이브러리를 api14로 지정하고 해당 id를 모델로 전달할 수 있습니다. 이 모델은 지원되는 매개변수를 나열하지 않으므로, 요청은 튜닝 옵션이 아니라 모델 id와 쿼리 및 후보 문서에 의존합니다.
Rerank 5 Fast는 제공한 문서만 재정렬하므로, 텍스트 생성, 요약 또는 프롬프트에 대한 추론이 필요할 때는 적합하지 않습니다. 이러한 작업에는 생성 모델이 필요하며, 검색 품질이 중요하다면 그 전에 리랭킹을 적용합니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
이 커뮤니티에는 아직 토픽이 없습니다. Cohere: Rerank 5 Fast에 대한 첫 토픽을 열어 보세요.