BAAI: bge-large-en-v1.5

BAAI bge-large-en-v1.5 è un modello di embedding di BAAI, la Beijing Academy of Artificial Intelligence. Si colloca nella categoria degli embeddings e non in quella delle chat, il che significa che non genera testo conversazionale. Trasforma invece il testo in vettori che puoi archiviare, confrontare e su cui puoi effettuare ricerche. Il modello è stato rilasciato dal provider il 2025-11-18.

Il modello prende in input testo in inglese e produce embeddings come output. Mappa frasi, paragrafi e documenti in inglese in uno spazio vettoriale denso a 1024 dimensioni, con l'obiettivo di ottenere embeddings semantici ad alta fedeltà. La finestra di contesto è di 512 token e l'output massimo è 460. Poiché l'input è solo testo e l'output è un vettore, non c'è testo generato da leggere o analizzare; ottieni rappresentazioni numeriche del significato con cui i sistemi a valle possono lavorare.

Queste caratteristiche indicano un insieme piuttosto specifico di utilizzi. La ricerca semantica è quello più ovvio: incorpora i tuoi documenti una volta, incorpora la query al momento della richiesta e ordina per similarità vettoriale. Il recupero di documenti e le pipeline di generazione aumentata dal recupero seguono lo stesso schema, in cui il modello di embedding gestisce il recupero e un modello di generazione separato gestisce la risposta. Il modello è adatto anche a task NLP a valle che consumano embeddings, come clustering, deduplicazione, feature di classificazione e confronto di similarità tra frasi o paragrafi. Qualsiasi cosa richieda una rappresentazione numerica compatta di testo in inglese è un candidato.

Lo chiami tramite l'API compatibile con OpenAI di api14 usando il model id "baai/bge-large-en-v1.5". Poiché l'endpoint segue la forma degli embeddings di OpenAI, invii il testo nel campo input e ricevi un vettore nella risposta. Il modello non elenca parametri supportati, quindi non c'è nulla da regolare oltre al model id e all'input stesso; non aspettarti che opzioni come temperature o top_p si applichino qui, dato che appartengono ai modelli di generazione. Mantieni ogni input entro la finestra di contesto di 512 token e tieni presente l'output massimo di 460.

Il vincolo principale da considerare nella pianificazione è la finestra di 512 token. I documenti lunghi devono essere suddivisi in chunk prima dell'embedding, e la strategia di chunking influenzerà la qualità del recupero più di qualsiasi altra cosa tu possa controllare. Se il tuo task richiede di generare testo anziché rappresentarlo, questo è il modello sbagliato e dovresti invece considerare un modello di chat o di completamento. Se il tuo testo non è in inglese, l'attenzione dichiarata del modello per l'inglese significa che dovresti verificare se è adatto prima di impegnarti.