NVIDIA: Nemotron 3.5 Embed 8B (free) 대 Sentence Transformers: all-mpnet-base-v2
api14 카탈로그의 최신 USD 가격과 기능을 바탕으로 NVIDIA: Nemotron 3.5 Embed 8B (free)(무료)와(과) Sentence Transformers: all-mpnet-base-v2(US$0.02 / 100만 토큰 (≈ ₩24))를 나란히 비교합니다. 두 모델 모두 같은 OpenAI 호환 API로 실행됩니다.
사양
| NVIDIA: Nemotron 3.5 Embed 8B (free) | Sentence Transformers: all-mpnet-base-v2 | |
|---|---|---|
| 제공업체 | NVIDIA | Sentence Transformers |
| 입력 | - | US$0.02 / 100만 토큰 (≈ ₩24) |
| 컨텍스트 윈도우 | 32,768 | 512 |
| 최대 출력 | 29,491 | 460 |
| 입력 | text, image | text |
| 출력 | embeddings | embeddings |
| 도구 호출 | ||
| 구조화된 출력 | ||
| 추론 조절 | ||
| 추가일 | 2026. 10. 21. | 2025. 11. 17. |
주요 차이점
- NVIDIA: Nemotron 3.5 Embed 8B (free)는(은) 64.0배 더 긴 컨텍스트(32,768 토큰)를 읽습니다.
자세히 보기
NVIDIA: Nemotron 3.5 Embed 8B (free)는 NVIDIA의 임베딩 모델이며, 모델 id nvidia/nemotron-3.5-embed-8b:free로 등록되어 있습니다. Sentence Transformers: all-mpnet-base-v2는 Sentence Transformers의 임베딩 모델이며, 모델 id sentence-transformers/all-mpnet-base-v2로 등록되어 있습니다. 둘 다 embeddings 카테고리에 속하므로, 어느 쪽도 채팅 완성이나 자유 텍스트를 생성하지 않습니다. 각 모델은 입력을 받아 벡터를 반환하며, 이 벡터는 검색, 클러스터링, 중복 제거, 분류 또는 이와 유사한 다운스트림 작업에 사용됩니다.
두 모델의 가장 명확한 차이는 컨텍스트 길이입니다. Nemotron 3.5 Embed 8B는 최대 32768 토큰을 허용하는 반면, all-mpnet-base-v2는 최대 512 토큰을 허용합니다. 이는 큰 차이이며, 한 번의 호출로 각 모델에 무엇을 넣을 수 있는지를 바꿉니다. Nemotron 3.5 Embed 8B는 텍스트와 이미지 입력을 모두 받아들이는 반면, all-mpnet-base-v2는 텍스트만 받아들입니다. 둘 다 임베딩을 유일한 출력 모달리티로 반환하며, 어느 쪽도 지원 파라미터를 나열하지 않으므로 양쪽 모두에서 샘플링 스타일 옵션을 조정할 수 없습니다. 정성적 비교에서는 Nemotron 3.5 Embed 8B를 더 큰 컨텍스트를 가진 쪽으로 표시하며, 둘 중 이미지를 전혀 처리하는 유일한 모델입니다.
실무에서는 보통 입력에 따라 선택이 결정됩니다. 긴 문서, 전체 페이지, 트랜스크립트 또는 수백 토큰을 편하게 초과하는 내용을 임베딩한다면, Nemotron 3.5 Embed 8B는 해당 콘텐츠를 청크로 나누고 결과를 조정하는 대신 한 번에 보낼 수 있게 해줍니다. 텍스트와 함께 이미지를 임베딩해야 하거나 혼합 인덱스를 구축해야 한다면, 이 모델이 여기서 이미지 입력을 받아들이는 유일한 옵션입니다. all-mpnet-base-v2는 입력이 문장, 제목, 짧은 쿼리 또는 개별 구절처럼 짧고, 간단한 텍스트 임베딩 모델을 원할 때 합리적인 선택입니다. 또한 제공자 릴리스 날짜 기준으로 둘 중 더 오래된 모델이지만, 그것만으로 결정되지는 않습니다.
API가 OpenAI 호환이므로 api14를 통해 어느 모델을 호출하든 방식은 동일합니다. 클라이언트를 embeddings 엔드포인트로 지정하고, 입력을 보내고, model 필드를 원하는 id로 설정하면 됩니다. 둘 사이를 전환하려면 해당 모델 id만 nvidia/nemotron-3.5-embed-8b:free에서 sentence-transformers/all-mpnet-base-v2로 또는 그 반대로 변경하면 됩니다. 요청 형태, 인증 및 응답 처리는 동일하게 유지되므로, 문자열 하나만 편집하여 기존 파이프라인을 옮길 수 있습니다. 이 페이지의 실시간 가격 표는 각 호출의 비용을 보여주므로, 추정하지 말고 그곳에서 확인하십시오.
all-mpnet-base-v2가 더 나은 선택인 경우도 여전히 있습니다. 임베딩하는 모든 입력이 512 토큰보다 훨씬 짧은 텍스트라면, 더 작은 컨텍스트는 제한이 아니며, 사용하지 않을 용량에 비용을 지불하지 않게 됩니다. 또한 파이프라인에 이미지 콘텐츠가 없고 텍스트 전용 임베딩 모델을 특별히 원할 때 더 단순한 선택입니다. Nemotron 3.5 Embed 8B는 컨텍스트 길이나 이미지 입력이 중요할 때 선택으로 남지만, 짧은 일반 텍스트 워크로드에는 더 작은 모델로 충분합니다.
문자열 하나로 전환
두 모델은 같은 엔드포인트와 요청 형식을 사용합니다. model 값을 "nvidia/nemotron-3.5-embed-8b:free"에서 "sentence-transformers/all-mpnet-base-v2"로 바꾸기만 하면 프롬프트, 스트리밍, 도구가 그대로 작동합니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "sentence-transformers/all-mpnet-base-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
더 많은 비교
- Amazon: Titan Multimodal Embeddings G1 대 Amazon: Titan Embeddings G1 - Text
- Amazon: Titan Multimodal Embeddings G1 대 Amazon: Titan Text Embeddings V2
- Amazon: Titan Multimodal Embeddings G1 대 Cohere: Embed 5 Fast
- Amazon: Titan Multimodal Embeddings G1 대 Cohere: Embed 5 Pro
- Amazon: Titan Embeddings G1 - Text 대 Amazon: Titan Text Embeddings V2
- Amazon: Titan Embeddings G1 - Text 대 Cohere: Embed 5 Fast
- Amazon: Titan Embeddings G1 - Text 대 Cohere: Embed 5 Pro
- Amazon: Titan Text Embeddings V2 대 Cohere: Embed 5 Fast