OpenAI: Text Embedding 3 Small (batch)

OpenAI: Text Embedding 3 Small (batch) ist ein Embedding-Modell von OpenAI, das über api14 angeboten wird. Es gehört zur Kategorie der Embeddings, und seine Modell-ID auf api14 ist openai/text-embedding-3-small:batch. OpenAI beschreibt text-embedding-3-small als eine verbesserte, leistungsfähigere Version des ada-Embedding-Modells. Embeddings sind eine numerische Darstellung von Text, mit der sich die Verwandtschaft zwischen zwei Textstücken messen lässt.

Das Modell nimmt Text als einzige Eingabe und gibt Embeddings als einzige Ausgabe zurück. Es hat eine Kontextlänge von 8192 Tokens, und die maximale Ausgabe beträgt 7372. Für dieses Modell sind keine unterstützten Parameter aufgeführt, daher können Sie Sampling- oder Generierungseinstellungen nicht über die Anfrage anpassen. Das Suffix batch in der Modell-ID kennzeichnet die Batch-Variante dieses Embedding-Modells auf api14.

Da es Embeddings statt generierten Text erzeugt, ergeben sich die praktischen Einsatzmöglichkeiten aus dem Messen von Ähnlichkeit zwischen Texten. Typische Arbeiten sind die semantische Suche, bei der Sie eine Anfrage und eine Reihe von Dokumenten einbetten und Dokumente nach Nähe sortieren; Retrieval für eine Retrieval-Augmented-Generation-Pipeline, bei der Embeddings relevante Passagen auswählen, die an ein Chat-Modell übergeben werden; Clustering oder Themengruppierung großer Textsammlungen; Deduplizierung, bei der nahezu identische Elemente durch den Vergleich von Vektoren gefunden werden; und Klassifizierung oder Routing, bei dem ein leichtgewichtiges Modell die Embeddings verarbeitet. Der Kontext von 8192 Tokens bedeutet, dass einzelne Eingaben recht lang sein können, sodass ganze Seiten oder lange Passagen eingebettet werden können, ohne sie vorher aufzuteilen.

Um es über api14 aufzurufen, verwenden Sie die OpenAI-kompatible API mit der Modell-ID openai/text-embedding-3-small:batch. Richten Sie Ihren vorhandenen OpenAI-Client auf die api14-Basis-URL und senden Sie Ihren Text an den Embeddings-Endpunkt, oder verwenden Sie die entsprechende Route im Chat-Stil, falls Ihr Client eine solche erwartet. Da das Modell keine unterstützten Parameter auflistet, halten Sie Anfragen einfach: Senden Sie die Modell-ID und den Eingabetext, und lesen Sie den Embedding-Vektor aus der Antwort. Es ist nicht nötig, temperature, top_p oder ähnliche Optionen zu setzen, da dieses Modell sie nicht akzeptiert.

Eines sollten Sie beachten: Dieses Modell verarbeitet nur Texteingabe und gibt nur Embeddings zurück. Es erzeugt keine Chat-Completions oder andere Textausgaben, daher ist ein Chat- oder Completion-Modell die bessere Wahl, wenn Ihre Aufgabe Konversation, Zusammenfassung oder Codegenerierung ist. Wenn Sie sehr große Textmengen einbetten müssen, ist die Batch-Variante hier die relevante Wahl, während andere Embedding-Modelle für unterschiedliche Genauigkeits- oder Sprachanforderungen geeignet sein können.