Relace: Relace Search

Relace Search es un modelo de texto de Relace, listado en api14 bajo el id de modelo relace/relace-search. Se sitúa en la categoría de texto y está construido en torno a la exploración de bases de código en lugar del chat general. Según el proveedor, el modelo utiliza de 4 a 12 herramientas view_file y grep en paralelo para explorar una base de código y devolver los archivos relevantes para una solicitud del usuario. Eso lo sitúa en el espacio de recuperación, pero con un enfoque agéntico en lugar del patrón de embeddings y búsqueda vectorial que usa RAG.

El modelo toma texto como entrada y devuelve texto como salida. Tiene una ventana de contexto de 256.000 tokens y una salida máxima de 128.000 tokens, lo cual es suficientemente generoso para contener una gran cantidad de material fuente junto con la solicitud y aún dejar espacio para una respuesta sustancial. Los parámetros de solicitud admitidos son max_tokens, response_format, seed, stop, temperature, tool_choice, tools y top_p. La presencia de tools y tool_choice es coherente con su diseño basado en herramientas: se espera que el modelo llame a view_file y grep como parte de la producción de su respuesta.

Los usos prácticos se derivan de ese diseño. Si estás construyendo un asistente de programación, un agente que responde preguntas sobre un repositorio, o un pipeline que necesita localizar los archivos relevantes para una solicitud de cambio, Relace Search está orientado a esa tarea. En lugar de generar embeddings de una base de código y esperar que la búsqueda por similitud haga aflorar los fragmentos correctos, dejas que el modelo decida qué archivos abrir y qué patrones buscar con grep, y luego devuelva los archivos relevantes. También encaja en flujos de trabajo donde un paso posterior necesita una lista corta de archivos en lugar de un parche terminado, como triaje, incorporación a un repositorio desconocido, o delimitación del alcance antes de una edición.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo relace/relace-search. Como la interfaz sigue la forma de chat completions de OpenAI, envías una solicitud con el campo model establecido en ese id y tus mensajes, y puedes pasar cualquiera de los parámetros admitidos: max_tokens, response_format, seed, stop, temperature, tool_choice, tools y top_p. Si tu código existente ya apunta a un endpoint compatible con OpenAI, cambiar a este modelo es en gran medida cuestión de cambiar la cadena del modelo y, cuando sea relevante, proporcionar definiciones de herramientas.

Un aspecto a sopesar es el alcance. La descripción del proveedor enmarca el modelo en torno a la exploración de bases de código con view_file y grep, por lo que las tareas que no tienen nada que ver con localizar archivos en un repositorio pueden resolverse mejor con un modelo de texto de propósito general. Si necesitas entrada de imagen o audio, este modelo no la acepta, ya que tanto la entrada como la salida son solo texto.