BAAI: bge-base-en-v1.5

BAAI: bge-base-en-v1.5 is een embeddingmodel van BAAI, de Beijing Academy of Artificial Intelligence. Het behoort tot de categorie embeddings, wat betekent dat het niet is gebouwd om chatantwoorden te genereren of tekst aan te vullen. In plaats daarvan zet het tekst om in numerieke vectoren. Het is een Engelstalig model, en de v1.5 in de naam markeert dit als de 1.5-versie van de bge-base-en-familie. Als uw toepassing een algemene chatassistent nodig heeft, is dit niet dat soort model. Als uw toepassing tekst wil vergelijken, doorzoeken of matchen op betekenis, is dit het soort model om te evalueren.

Het model accepteert tekst als invoer en produceert embeddings als uitvoer. Concreet zet het Engelse zinnen en alinea's om in 768-dimensionale dichte vectoren, die bedoeld zijn om semantische betekenis te dragen. De contextlengte is 512 tokens, en de maximale uitvoer is 460. In de praktijk betekent 512 tokens dat u zinnen of enkele alinea's moet sturen in plaats van lange documenten, aangezien langer materiaal moet worden opgesplitst voordat het wordt ge-embed. De provider beschrijft het model als het leveren van efficiënte, hoogwaardige semantische embeddings die zijn geoptimaliseerd voor retrieval, semantisch zoeken en document-matching-workflows. De vectoren zijn dicht, dus ze zijn compact genoeg om op schaal op te slaan en te vergelijken.

Die kenmerken wijzen op een vrij specifieke reeks use cases. Semantisch zoeken is de duidelijkste: embed een query en uw documenten, en rangschik documenten vervolgens op vectorovereenkomst in plaats van op trefwoordoverlap. Retrieval-pipelines kunnen hetzelfde gedrag gebruiken om passages op te halen die relevant zijn voor een vraag. Document-matching past er ook bij, bijvoorbeeld het vinden van bijna-duplicaten, het groeperen van vergelijkbare supporttickets, of het koppelen van gerelateerde items tussen twee collecties. Omdat het model alleen Engels ondersteunt en beperkt is tot 512 tokens, is het geschikt voor taken op zins- en alineaniveau. Deduplicatie, clustering en similarity scoring op korte Engelse tekst passen allemaal goed, mits u langere invoer eerst opdeelt in stukken.

U roept het model aan via de OpenAI-compatibele API van api14 met het model-id "baai/bge-base-en-v1.5". Omdat de API het OpenAI-formaat volgt, kunt u een bestaande OpenAI-client op api14 richten, uw tekst naar het embeddings-endpoint sturen, en de vectoren in het antwoord ontvangen. De vermelde ondersteunde parameters voor dit model zijn leeg, dus het heeft geen extra afstemmingsopties nodig naast wat uw verzoek al bevat; er is niets zoals temperature of top_p om in te stellen, aangezien die bij tekstgeneratie horen en niet bij embedding. Controleer de actuele prijstabel op deze pagina voor de huidige tarieven.

De belangrijkste beperkingen om in gedachten te houden zijn de contextlengte van 512 tokens, de maximale uitvoer van 460, invoer alleen in het Engels, en het feit dat de uitvoer vectoren zijn in plaats van proza. Als u lange documenten in een enkele pass wilt embedden, meerdere talen wilt ondersteunen, of tekst wilt genereren, past een ander model op api14 beter. Binnen het beoogde bereik, retrieval, semantisch zoeken en document-matching op Engelse zinnen en alinea's, is dit model een directe optie.