OpenAI: Text Embedding 3 Small (batch)

OpenAI: Text Embedding 3 Small (batch) es un modelo de embeddings de OpenAI, ofrecido a través de api14. Pertenece a la categoría de embeddings, y su id de modelo en api14 es openai/text-embedding-3-small:batch. OpenAI describe text-embedding-3-small como una versión mejorada y con mejor rendimiento del modelo de embeddings ada. Los embeddings son una representación numérica de texto que se puede usar para medir la relación entre dos fragmentos de texto.

El modelo toma texto como su única entrada y devuelve embeddings como su única salida. Tiene una longitud de contexto de 8192 tokens, y la salida máxima es 7372. No hay parámetros admitidos listados para este modelo, por lo que no puedes ajustar la configuración de muestreo o generación a través de la solicitud. El sufijo batch en el id del modelo indica la variante por lotes de este modelo de embeddings en api14.

Debido a que produce embeddings en lugar de texto generado, los usos prácticos se derivan de medir la similitud entre textos. El trabajo típico incluye búsqueda semántica, donde se incrusta una consulta y un conjunto de documentos y se clasifican los documentos por cercanía; recuperación para una canalización de generación aumentada por recuperación, donde los embeddings seleccionan pasajes relevantes para pasarlos a un modelo de chat; agrupamiento o agrupación temática de grandes colecciones de texto; deduplicación, donde se encuentran elementos casi idénticos comparando vectores; y clasificación o enrutamiento, donde un modelo ligero consume los embeddings. El contexto de 8192 tokens significa que las entradas individuales pueden ser bastante largas, por lo que se pueden incrustar páginas completas o pasajes largos sin dividirlos primero.

Para llamarlo a través de api14, usa la API compatible con OpenAI con el id de modelo openai/text-embedding-3-small:batch. Apunta tu cliente de OpenAI existente a la URL base de api14 y envía tu texto al endpoint de embeddings, o usa la ruta equivalente de estilo chat si tu cliente espera una. Debido a que el modelo no lista parámetros admitidos, mantén las solicitudes simples: envía el id del modelo y el texto de entrada, y lee el vector de embedding de la respuesta. No hay necesidad de establecer temperature, top_p u opciones similares, ya que este modelo no las acepta.

Algo que hay que tener en cuenta es que este modelo solo maneja entrada de texto y solo devuelve embeddings. No genera finalizaciones de chat ni ningún otro tipo de salida de texto, por lo que si tu tarea es conversación, resumen o generación de código, un modelo de chat o de finalización es la mejor opción. Si necesitas incrustar volúmenes muy grandes de texto, la variante por lotes es la opción relevante aquí, mientras que otros modelos de embeddings pueden adaptarse a diferentes necesidades de precisión o idioma.