BAAI: bge-base-en-v1.5

BAAI: bge-base-en-v1.5 è un modello di embedding di BAAI, la Beijing Academy of Artificial Intelligence. Appartiene alla categoria degli embeddings, il che significa che non è progettato per generare risposte in chat o completare testo. Trasforma invece il testo in vettori numerici. È un modello per la lingua inglese, e il v1.5 nel suo nome indica che si tratta della versione 1.5 della famiglia bge-base-en. Se la tua applicazione necessita di un assistente di chat generico, questo non è quel tipo di modello. Se la tua applicazione necessita di confrontare, cercare o abbinare testo in base al significato, questo è il tipo di modello da valutare.

Il modello accetta testo come input e produce embeddings come output. Nello specifico, converte frasi e paragrafi in inglese in vettori densi a 768 dimensioni, pensati per trasportare significato semantico. La lunghezza del contesto è di 512 token, e l'output massimo è 460. In pratica, 512 token significa che dovresti inviare frasi o singoli paragrafi anziché documenti lunghi, poiché il materiale più lungo dovrà essere suddiviso prima dell'embedding. Il provider descrive il modello come in grado di fornire embeddings semantici efficienti e di alta qualità, ottimizzati per il recupero, la ricerca semantica e i flussi di lavoro di abbinamento dei documenti. I vettori sono densi, quindi sono abbastanza compatti da poter essere archiviati e confrontati su larga scala.

Queste caratteristiche indicano un insieme piuttosto specifico di casi d'uso. La ricerca semantica è quello più chiaro: genera gli embedding di una query e dei tuoi documenti, poi classifica i documenti in base alla similarità vettoriale invece che alla sovrapposizione di parole chiave. Le pipeline di recupero possono usare lo stesso comportamento per recuperare passaggi rilevanti rispetto a una domanda. Anche l'abbinamento dei documenti è adatto, ad esempio per trovare record quasi duplicati, raggruppare ticket di supporto simili o collegare elementi correlati tra due raccolte. Poiché il modello è solo in inglese e limitato a 512 token, è adatto a compiti a livello di frase e paragrafo. Deduplicazione, clustering e punteggio di similarità su testi brevi in inglese sono tutti casi naturali, a condizione di suddividere prima gli input più lunghi.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "baai/bge-base-en-v1.5". Poiché l'API segue il formato OpenAI, puoi indirizzare un client OpenAI esistente verso api14, inviare il tuo testo all'endpoint degli embeddings e ricevere i vettori nella risposta. I parametri supportati elencati per questo modello sono vuoti, quindi non accetta opzioni di regolazione aggiuntive oltre a quelle già incluse nella tua richiesta; non c'è nulla come temperature o top_p da impostare, poiché appartengono alla generazione di testo e non agli embedding. Controlla la tabella dei prezzi aggiornata su questa pagina per le tariffe correnti.

I principali vincoli da tenere a mente sono la lunghezza del contesto di 512 token, l'output massimo di 460, l'input solo in inglese e il fatto che l'output è costituito da vettori anziché da prosa. Se devi generare gli embedding di documenti lunghi in un'unica passata, gestire più lingue o generare testo, un altro modello su api14 sarà più adatto. Nell'ambito previsto, recupero, ricerca semantica e abbinamento dei documenti su frasi e paragrafi in inglese, questo modello è un'opzione diretta.