NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Llama Nemotron Embed VL 1B V2 är en inbäddningsmodell från NVIDIA, distribuerad på api14 under modell-id:t nvidia/llama-nemotron-embed-vl-1b-v2:free. Den tillhör kategorin embeddings, och dess angivna syfte är multimodal fråga-svar-sökning. Det är en modell i 1B-klassen, vilket placerar den bland de mindre alternativen i Nemotron-familjen, och den erbjuds här i en gratis variant.

Modellen tar emot text och bilder som indata och producerar inbäddningar som utdata. Den kan bädda in dokument i tre former: enbart bild, enbart text, eller bild och text tillsammans. Den flexibiliteten är kärnan i dess design, eftersom söksystem ofta behöver matcha en textfråga mot en sidbild, en skärmbild, ett diagram eller ett stycke prosa. Kontextfönstret är 131072 tokens, och maximal utdata är 117964, så långa dokument kan bäddas in utan att delas upp i många fragment.

Praktiska användningsområden följer av multimodal sökning. Ett team som bygger ett fråga-svar-system över skannade dokument, PDF-filer, produktbilder eller kunskapsbaser med blandade medier kan bädda in varje objekt en gång och sedan köra likhetssökning mot en textfråga. Eftersom bild och text kan bäddas in gemensamt kan samma index betjäna frågor om ett diagram och frågor om stycket bredvid det, vilket undviker att underhålla separata pipelines för visuellt och textuellt innehåll. Det passar också för deduplicering, klustring och rekommendationer över samlingar som blandar skärmbilder med skriftligt material.

För att anropa den via api14, använd den OpenAI-kompatibla embeddings-endpointen med modell-id:t nvidia/llama-nemotron-embed-vl-1b-v2:free. Modellen listar inga stödda parametrar, så förfrågningar bör förlita sig på de standardfält som endpointen kräver snarare än samplingskontroller som temperature eller top_p, vilka inte gäller för inbäddningsmodeller. Skicka din indata i den vanliga formen för embeddings-förfrågningar och läs tillbaka vektorn från svaret.

En sak att väga in är att detta är en inbäddningsmodell, inte en chatt- eller genereringsmodell, så den kommer inte att svara på frågor eller skriva text. Om din uppgift är generering, resonemang eller konversation är en annan modell rätt val. Det är också värt att kontrollera att din sökstack kan lagra och jämföra de vektordimensioner som modellen returnerar, och att dina indata ryms inom kontexten på 131072 tokens.