NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Llama Nemotron Embed VL 1B V2 è un modello di embedding di NVIDIA, distribuito su api14 con l'id modello nvidia/llama-nemotron-embed-vl-1b-v2:free. Appartiene alla categoria embeddings, e il suo scopo dichiarato è il recupero per domande e risposte multimodali. È un modello di classe 1B, il che lo colloca tra le opzioni più piccole della famiglia Nemotron, ed è offerto qui in una variante gratuita.

Il modello accetta testo e immagini come input e produce embedding come output. Può incorporare documenti in tre forme: solo immagine, solo testo, oppure immagine e testo insieme. Questa flessibilità è il nucleo del suo design, poiché i sistemi di recupero hanno spesso bisogno di far corrispondere una domanda testuale a un'immagine di pagina, uno screenshot, un diagramma o un passaggio di prosa. La finestra di contesto è di 131072 token, e l'output massimo è 117964, quindi documenti lunghi possono essere incorporati senza suddividerli in molti frammenti.

Gli usi pratici derivano dal recupero multimodale. Un team che costruisce un sistema di domande e risposte su documenti scansionati, PDF, immagini di prodotti o basi di conoscenza multimediali può incorporare ogni elemento una volta e poi eseguire una ricerca per similarità rispetto a una query testuale. Poiché immagine e testo possono essere incorporati congiuntamente, lo stesso indice può servire query su un grafico e query sul paragrafo accanto, il che evita di mantenere pipeline separate per contenuti visivi e testuali. È adatto anche a deduplicazione, clustering e raccomandazione su collezioni che mescolano screenshot e materiale scritto.

Per chiamarlo tramite api14, usa l'endpoint embeddings compatibile con OpenAI con l'id modello nvidia/llama-nemotron-embed-vl-1b-v2:free. Il modello non elenca parametri supportati, quindi le richieste dovrebbero basarsi sui campi standard richiesti dall'endpoint anziché su controlli di campionamento come temperature o top_p, che non si applicano ai modelli di embedding. Invia il tuo input nella consueta forma di richiesta embeddings e leggi il vettore dalla risposta.

Una cosa da valutare è che questo è un modello di embedding, non un modello di chat o generazione, quindi non risponderà a domande né scriverà testo. Se il tuo compito è generazione, ragionamento o conversazione, un modello diverso è la scelta giusta. Vale anche la pena verificare che il tuo stack di recupero possa memorizzare e confrontare le dimensioni vettoriali restituite dal modello, e che i tuoi input rientrino nel contesto di 131072 token.