Intfloat: Multilingual-E5-Large

Intfloat: Multilingual-E5-Large ist ein Embedding-Modell von Intfloat, das auf api14 in der Kategorie Embeddings gelistet ist. Es nimmt Text als Eingabe und gibt Embeddings als Ausgabe zurück, es ist also kein Chat- oder Textgenerierungsmodell. Sein Zweck ist es, Sprache in Vektoren umzuwandeln, die Sie speichern, vergleichen und durchsuchen können. Der Anbieter beschreibt es so, dass es Sätze, Absätze und Dokumente in mehr als 90 Sprachen in einen 1024-dimensionalen dichten Vektorraum kodiert, mit semantischen Embeddings, die für mehrsprachiges Retrieval und sprachübergreifende Ähnlichkeit optimiert sind.

Das Kontextfenster beträgt 512 Token und die maximale Ausgabe 460. Da die Eingabe Text ist und die Ausgabe ein Vektor statt generierter Wörter, gibt es kein Sampling-Verhalten zum Optimieren: Das Modell akzeptiert keine unterstützten Parameter, Anfragen enthalten also Ihre Eingabe und sonst nichts in Form von Generierungseinstellungen. Das Limit von 512 Token bedeutet, dass jeder Aufruf auf einen Satz, einen kurzen Absatz oder einen ähnlich großen Abschnitt beschränkt sein sollte, statt ein langes Dokument vollständig zu übergeben.

Die praktischen Einsatzmöglichkeiten ergeben sich aus dieser Form. Mehrsprachiges Retrieval ist die wichtigste: Indexieren Sie Dokumente in einer oder mehreren Sprachen und durchsuchen Sie sie mit Anfragen in einer anderen. Sprachübergreifende Ähnlichkeit ermöglicht es Ihnen, Text, der in verschiedenen Sprachen geschrieben ist, im selben Vektorraum zu vergleichen oder zu clustern. Verwandte Arbeiten umfassen semantische Suche über einen gemischtsprachigen Korpus, Deduplizierung nahezu identischer Passagen, Routing oder Klassifizierung basierend darauf, wie nah ein Textstück an Referenzbeispielen liegt, und den Aufbau von Retrieval-Schichten, die ein separates Generierungsmodell versorgen.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID "intfloat/multilingual-e5-large" auf. Da der Endpunkt der OpenAI-Embeddings-Form folgt, sollten vorhandene Client-Bibliotheken und Code, die bereits auf eine OpenAI-kompatible Basis-URL zeigen, mit nur geänderter Modell-ID funktionieren. Senden Sie Ihren Text als Eingabe und lesen Sie den Vektor aus der Antwort zurück. Es werden keine zusätzlichen Anfrageparameter unterstützt, halten Sie die Anfrage also minimal und lassen Sie das Modell das Embedding zurückgeben.

Der Kontext von 512 Token ist die wichtigste Einschränkung, um die Sie planen müssen. Lange Dokumente müssen vor dem Embedding in Abschnitte aufgeteilt werden, und jede Pipeline, die ein größeres Fenster annimmt oder generierten Text zurückerwartet, benötigt ein anderes Modell. Wenn Ihre Aufgabe Generierung, Zusammenfassung oder Konversation statt Repräsentation ist, ist ein Instruct- oder Chat-Modell auf api14 die bessere Wahl; dieses Modell dient dazu, Text in Vektoren umzuwandeln.