쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
처음이신가요? 사용법을 확인해 보세요 플레이그라운드, 모델, API 키를 1분 만에 둘러보세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
amazon/titan-embed-text-v2위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
Amazon Titan Text Embeddings V2는 Amazon의 텍스트 임베딩 모델로, api14에 모델 id amazon/titan-embed-text-v2로 등록되어 있습니다. embeddings 카테고리에 속하므로, 산문을 생성하거나 대화를 이어가는 대신 텍스트를 벡터로 변환하는 역할을 합니다. 애플리케이션에 의미를 담아내는 텍스트의 수치적 표현이 필요하다면, 바로 이런 종류의 모델을 선택하게 됩니다.
이 모델은 텍스트만을 유일한 입력으로 받고 임베딩을 출력으로 반환합니다. 입력당 최대 8,192 토큰을 허용하므로, 긴 문서 섹션이나 전체 기사, 또는 지식 베이스 항목의 상당한 덩어리를 먼저 분할하지 않고도 처리할 수 있습니다. 반환되는 벡터는 정규화되어 있고 1,024 차원을 가지므로, 추가 정규화 단계 없이 코사인 유사도나 내적으로 직접 비교할 수 있습니다. 최대 출력은 7,372입니다.
이러한 특성은 몇 가지 실용적인 용도를 가리킵니다. 검색 증강 생성이 가장 명확한 예입니다. 문서를 한 번 임베딩하고, 요청 시점에 사용자 쿼리를 임베딩한 다음, 가장 가까운 청크를 가져와 생성 모델에 공급하면 됩니다. 제품 카탈로그, 지원 티켓, 내부 문서에 대한 시맨틱 검색도 같은 방식으로 작동하며, 키워드 검색이 놓칠 수 있는 바꿔 말하기를 처리합니다. 클러스터링과 주제 발견은 고정된 1,024 차원 벡터 덕분에 유리한데, 그 위에서 k-means나 유사한 알고리즘을 직접 실행할 수 있기 때문입니다. 중복 제거와 근접 중복 감지도 자연스럽게 맞으며, 태그가 아니라 의미로 항목을 매칭하는 추천 계층을 구축하는 것도 마찬가지입니다.
api14의 OpenAI 호환 API를 통해 모델 id amazon/titan-embed-text-v2를 사용하여 호출하므로, 이미 OpenAI 임베딩 형식을 지원하는 클라이언트라면 최소한의 변경으로 작동합니다. base URL을 api14로 지정하고, api14 키를 전달한 다음, 해당 모델 id와 함께 텍스트를 embeddings 엔드포인트로 보내면 됩니다. 이 모델은 엔드포인트가 요구하는 것 외에 추가 요청 파라미터를 지원하지 않으므로, 요청을 단순하게 유지하고 적용되지 않을 튜닝 옵션을 전달하지 않도록 하세요. 임베딩 모델이므로 채팅 스타일 메시지를 받지 않으며 생성된 텍스트를 반환하지도 않습니다.
한 가지 유념할 점은 이 모델이 텍스트만 처리한다는 것입니다. 입력에 이미지, 오디오 또는 다른 모달리티가 포함되어 있다면 다른 모델이 필요합니다. 마찬가지로, 텍스트를 수치적으로 표현하는 것이 아니라 답변을 작성하는 어시스턴트가 필요하다면 임베딩 모델은 잘못된 도구이며, 이 모델을 생성 모델과 함께 사용하게 될 것입니다. 다만 그 범위 안에서는 대부분의 문서 청크에 충분히 큰 컨텍스트 윈도우로 검색, 탐색, 클러스터링 작업을 처리합니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
이 커뮤니티에는 아직 토픽이 없습니다. Amazon: Titan Text Embeddings V2에 대한 첫 토픽을 열어 보세요.