Sentence Transformers: all-mpnet-base-v2

Sentence Transformers: all-mpnet-base-v2는 텍스트를 벡터로 바꾸기 위해 만들어진 모델군인 Sentence Transformers의 임베딩 모델입니다. 이 모델은 임베딩 카테고리에 속하며, 텍스트 자체를 생성하는 것이 아니라 텍스트의 표현을 만들어 내도록 설계되었습니다. 이 모델은 문장과 짧은 문단을 768차원의 밀집 벡터 공간으로 인코딩하며, 제공자는 이를 의미론적 작업을 위한 고충실도 옵션으로 위치시킵니다.

입력 측면에서 이 모델은 텍스트만 받습니다. 출력 측면에서는 단어나 채팅 메시지가 아니라 임베딩을 반환하므로, 질문에 답하거나 대화를 나누리라고 기대해서는 안 됩니다. 컨텍스트 길이는 512 토큰이고, 최대 출력은 460입니다. 두 숫자 모두 실제로 중요합니다. 512 토큰 창은 문장 하나나 짧은 문단 하나를 커버하며, 그보다 긴 것은 보내기 전에 나눠야 합니다. 반환되는 임베딩은 768차원 벡터입니다.

이러한 기능은 상당히 구체적인 용도들을 가리킵니다. 정보 검색은 자연스러운 적합처로, 쿼리와 코퍼스를 임베딩하고 비교합니다. 클러스터링도 또 다른 용도인데, 768차원 공간에서 서로 가까이 있는 문장은 종종 같은 주제에 속하기 때문입니다. 유사도 점수 매기기는 그로부터 곧바로 이어지며, 예를 들어 참조 문장에 대해 후보 구절의 순위를 매기거나 거의 중복된 텍스트를 탐지하는 데 쓰입니다. 이 모델은 문장과 짧은 문단을 다루므로, 임베딩하는 각 입력이 짧고 자기완결적일 때 이러한 작업이 가장 잘 작동합니다.

이 모델은 api14의 OpenAI 호환 API를 통해 호출하며, 모델 id "sentence-transformers/all-mpnet-base-v2"를 사용합니다. 인터페이스가 OpenAI 임베딩 형태를 따르므로, 해당 엔드포인트를 대상으로 하는 기존 클라이언트와 라이브러리를 별도의 처리 없이 api14로 향하게 할 수 있습니다. 이 모델은 지원되는 파라미터를 나열하지 않으므로, 요청 본문에는 모델 id와 입력 텍스트만 담아야 하며, dimensions나 encoding format 같은 선택적 설정이 적용되리라고 기대해서는 안 됩니다.

512 토큰 컨텍스트와 460 출력 상한이 여기서의 주요 실질적 한계입니다. 텍스트가 문장 하나나 짧은 문단보다 길면, 청크로 나누어 각각을 임베딩한 다음 결과를 결합하십시오. 그리고 실제로 필요한 것이 벡터가 아니라 생성된 텍스트라면, 생성형 채팅 모델이 더 잘 맞습니다. 이 모델은 임베딩만 생성합니다.