쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
cohere/embed-5-fast위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
Cohere: Embed 5 Fast는 Cohere의 멀티모달 임베딩 모델로, 회사의 Embed 5 제품군에서 지연 시간이 더 낮고 비용 효율적인 계층으로 자리매김합니다. 처리량과 응답성이 임베딩 품질만큼 중요한 대규모 환경에서 콘텐츠를 벡터 표현으로 변환해야 하는 개발자를 위해 만들어졌습니다. 이 모델은 채팅 범주가 아니라 임베딩 범주에 속하므로 대화형 텍스트를 생성하지 않습니다. 이 모델의 역할은 다운스트림 시스템이 검색, 비교 또는 분류할 수 있는 벡터를 생성하는 것입니다.
이 모델은 텍스트, 이미지, 그리고 텍스트와 이미지가 교차하는 콘텐츠를 입력으로 받아들이며, 출력으로는 임베딩만 반환합니다. 이러한 멀티모달 입력 지원 덕분에 하나의 모델로 단락, 제품 사진, 또는 둘이 섞인 문서 페이지를 임베딩할 수 있어, 별도의 텍스트 및 이미지 인코더를 유지하는 것보다 검색 파이프라인이 더 단순해집니다. 128,000 토큰의 컨텍스트 길이와 최대 115,200의 출력을 제공하므로, 공격적인 청킹 없이도 긴 문서와 대규모 이미지 및 텍스트 페이로드를 처리할 여유가 있습니다. 약 1B 파라미터로, 설계상 소형 모델이며, 이는 빠르고 비용 효율적인 포지셔닝과 일치합니다.
이러한 기능은 상당히 구체적인 사용 사례 집합을 가리킵니다. 혼합 미디어에 대한 시맨틱 검색이 가장 직접적인 적합 사례입니다. 텍스트와 이미지를 하나의 벡터 공간에 인덱싱하여 쿼리가 둘 중 어느 것이든 검색할 수 있게 합니다. 검색 증강 생성 파이프라인은 도표, 스크린샷 또는 스캔한 페이지가 산문과 함께 포함된 지식 기반을 임베딩하는 데 이 모델을 사용할 수 있습니다. 추천 및 유사도 시스템은 콘텐츠가 텍스트든 시각적이든 관계없이 항목을 비교할 수 있으므로 공유 공간의 이점을 얻습니다. 대규모 코퍼스에 대한 분류, 클러스터링, 중복 제거 및 이상 탐지도 자연스러운 응용 사례이며, 특히 데이터 양 때문에 임베딩당 지연 시간과 비용이 실질적인 문제가 되는 경우에 그렇습니다.
이 모델은 모델 id "cohere/embed-5-fast"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 엔드포인트가 OpenAI 임베딩 규약을 따르므로, 이미 해당 인터페이스를 대상으로 하는 기존 클라이언트와 SDK는 최소한의 변경으로 api14를 가리킬 수 있으며, 일반적으로는 base URL과 모델 id만 바꾸면 됩니다. 이 모델은 표준 임베딩 요청 형태 외에 지원되는 요청 파라미터를 선언하지 않으므로, 사용자 지정 차원이나 제공자별 옵션 같은 튜닝 수단을 기대해서는 안 됩니다. 입력을 보내고 반환된 벡터를 읽으면 됩니다.
Embed 5 제품군의 빠른 계층이라는 점을 고려하면, 대규모로 임베딩하면서 지연 시간이나 처리량이 제약 조건일 때 합리적인 기본 선택입니다. 워크로드가 순수하게 텍스트이고 이미지 처리가 필요하지 않다면, 텍스트 전용 임베딩 모델이 더 단순한 적합 사례일 수 있습니다. 벡터가 아니라 텍스트를 생성하는 모델이 필요하다면, 이 모델의 출력 양식은 임베딩뿐이므로 올바른 선택이 아닙니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "cohere/embed-5-fast",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
이 커뮤니티에는 아직 토픽이 없습니다. Cohere: Embed 5 Fast에 대한 첫 토픽을 열어 보세요.