Mistral: Codestral Embed 2505는 Mistral의 임베딩 모델이고, OpenAI: Text Embedding 3 Small은 OpenAI의 임베딩 모델입니다. 둘 다 임베딩 카테고리에 속하며, 이는 채팅 응답을 생성하는 대신 텍스트를 입력받아 벡터를 반환한다는 뜻입니다. 어느 쪽도 범용 채팅 모델이 아니므로, 답변 초안을 작성하거나 대화를 나누기 위해 둘 중 하나를 호출하지는 않습니다. 검색, 클러스터링, 중복 제거 또는 분류를 위해 텍스트의 수치적 표현이 필요할 때 이들을 호출합니다.
두 모델은 여기서 가장 중요한 사양에서 비슷합니다. 둘 다 텍스트만 입력 모달리티로 받아들이고 임베딩만 출력 모달리티로 반환하므로, 저울질할 멀티모달 차이는 없습니다. 둘 다 컨텍스트 길이가 8192 토큰이므로, 단일 호출에서 임베딩할 수 있는 텍스트의 양은 양쪽이 동일합니다. 어느 쪽도 지원되는 파라미터를 노출하지 않으므로, 요청 시 추가 옵션으로 조정할 수 없습니다. 나열된 유일한 정성적 차이는 입력 가격에 있으며, OpenAI 모델이 둘 중 더 저렴합니다. 출력 가격은 두 모델 간에 유의미한 차이가 없으므로, 비용 격차가 있다면 입력 측에서 발생합니다.
대부분의 임베딩 작업에서 선택은 원시적 성능보다는 적합성에 달려 있습니다. 성능 범위가 거의 동일하기 때문입니다. 코드, 식별자 또는 자연어와 소스가 섞인 텍스트를 임베딩한다면, Codestral Embed 2505가 그 계보를 고려할 때 자연스러운 후보입니다. 시맨틱 검색, 문서 검색 또는 사용자 텍스트 클러스터링을 위해 일반 산문을 임베딩한다면, Text Embedding 3 Small이 합리적인 기본값이며 입력 측에서 더 저렴한 옵션이고, 이는 입력 볼륨이 지배적인 대규모 코퍼스를 임베딩할 때 중요합니다. 코퍼스가 크고 대부분 일반 텍스트라면, 입력 가격 차이가 OpenAI 모델을 선택하는 주된 실용적 근거입니다. 코퍼스가 코드 위주라면, Mistral 모델을 먼저 시도해 볼 만합니다.
api14를 통해 어느 모델을 호출하든 동일한 작업입니다. API는 OpenAI 호환되므로, 기존 클라이언트를 api14 기본 URL로 지정하고, 텍스트를 embeddings 엔드포인트로 보내고, model 필드를 원하는 id로 설정합니다. Mistral 모델을 사용하려면 model id를 mistralai/codestral-embed-2505로 설정합니다. OpenAI 모델을 사용하려면 openai/text-embedding-3-small로 설정합니다. 요청에서 다른 것은 바뀌지 않고 응답 형태도 동일하므로, 그 문자열 하나만 편집하여 둘 사이를 전환할 수 있습니다. 따라서 확정하기 전에 자체 데이터로 둘 다 벤치마킹하는 것이 저렴합니다.
입력 측에서 더 많은 비용이 들더라도 Mistral 모델이 여전히 더 나은 선택인 경우가 있습니다. 텍스트가 주로 코드 또는 코드에 준하는 내용이고, 그런 종류의 콘텐츠에 대해 생성된 벡터의 품질이 중요하다면, Codestral 모델이 그런 자료를 위해 만들어진 모델이며, 입력 가격 차이를 감수할 가치가 있을 수 있습니다. 반대로, 워크로드가 대량의 일반 텍스트이고 입력 토큰당 비용이 결정적 요인이라면, OpenAI 모델을 선택해야 합니다. 둘 다 동일한 컨텍스트 길이와 동일한 입력 및 출력 모달리티를 공유하므로, 콘텐츠 유형과 입력 비용만으로 결정할 수 있습니다.