BAAI: bge-base-en-v1.5

BAAI: bge-base-en-v1.5는 베이징 인공지능 아카데미(BAAI)의 임베딩 모델입니다. 임베딩 카테고리에 속하며, 이는 채팅 답변이나 텍스트 완성을 생성하도록 만들어진 것이 아니라는 뜻입니다. 대신 텍스트를 숫자 벡터로 변환합니다. 영어 모델이며, 이름의 v1.5는 bge-base-en 계열의 1.5 버전임을 나타냅니다. 애플리케이션에 범용 채팅 어시스턴트가 필요하다면 이 모델은 그런 종류가 아닙니다. 애플리케이션에서 의미를 기준으로 텍스트를 비교, 검색 또는 매칭해야 한다면 이것이 평가해 볼 만한 종류의 모델입니다.

이 모델은 텍스트를 입력으로 받아 임베딩을 출력으로 생성합니다. 구체적으로 영어 문장과 문단을 의미를 담도록 의도된 768차원 밀집 벡터로 변환합니다. 컨텍스트 길이는 512 토큰이고 최대 출력은 460입니다. 실제로 512 토큰은 긴 문서보다는 문장이나 단일 문단을 보내야 한다는 의미이며, 더 긴 자료는 임베딩 전에 분할해야 합니다. 제공자는 이 모델을 검색, 시맨틱 검색, 문서 매칭 워크플로에 최적화된 효율적이고 고품질의 시맨틱 임베딩을 제공하는 모델로 설명합니다. 벡터는 밀집되어 있어 대규모에서도 저장하고 비교하기에 충분히 간결합니다.

이러한 특성은 상당히 구체적인 사용 사례 집합을 가리킵니다. 시맨틱 검색이 가장 명확합니다. 쿼리와 문서를 임베딩한 다음 키워드 중복 대신 벡터 유사도로 문서 순위를 매깁니다. 검색 파이프라인은 같은 동작을 사용해 질문과 관련된 구절을 가져올 수 있습니다. 문서 매칭도 적합합니다. 예를 들어 거의 중복된 레코드를 찾거나, 유사한 지원 티켓을 그룹화하거나, 두 컬렉션에 걸쳐 관련 항목을 연결하는 경우입니다. 이 모델은 영어 전용이고 512 토큰으로 제한되므로 문장 및 문단 수준 작업에 적합합니다. 더 긴 입력을 먼저 청크로 나누기만 하면 짧은 영어 텍스트에 대한 중복 제거, 클러스터링, 유사도 점수 산정이 모두 자연스럽게 맞습니다.

모델 id "baai/bge-base-en-v1.5"를 사용해 api14의 OpenAI 호환 API를 통해 이 모델을 호출합니다. API가 OpenAI 형식을 따르므로 기존 OpenAI 클라이언트를 api14로 지정하고, 텍스트를 embeddings 엔드포인트로 보내고, 응답에서 벡터를 받을 수 있습니다. 이 모델에 대해 나열된 지원 파라미터는 비어 있으므로 요청에 이미 포함된 것 외에 추가 튜닝 옵션을 받지 않습니다. temperature나 top_p 같은 것은 설정할 것이 없는데, 이는 텍스트 생성에 속하는 것이지 임베딩에 속하는 것이 아니기 때문입니다. 현재 요금은 이 페이지의 실시간 가격표를 확인하세요.

염두에 둘 주요 제약은 512 토큰 컨텍스트 길이, 460 최대 출력, 영어 전용 입력, 그리고 출력이 산문이 아니라 벡터라는 점입니다. 긴 문서를 한 번에 임베딩해야 하거나, 여러 언어를 처리해야 하거나, 텍스트를 생성해야 한다면 api14의 다른 모델이 더 잘 맞습니다. 영어 문장과 문단에 대한 검색, 시맨틱 검색, 문서 매칭이라는 의도된 범위 안에서는 이 모델이 직접적인 선택지입니다.