Relace: Relace Search

Relace Search ist ein Textmodell von Relace, das auf api14 unter der Modell-ID relace/relace-search gelistet ist. Es liegt in der Kategorie Text und ist eher auf die Erkundung von Codebasen als auf allgemeinen Chat ausgerichtet. Laut dem Anbieter verwendet das Modell 4 bis 12 view_file- und grep-Tools parallel, um eine Codebasis zu erkunden und die für eine Benutzeranfrage relevanten Dateien zurückzugeben. Das verortet es im Retrieval-Bereich, allerdings mit einem agentischen Ansatz statt des Embedding- und Vektorsuchmusters, das bei RAG verwendet wird.

Das Modell nimmt Text als Eingabe und gibt Text als Ausgabe zurück. Es hat ein Kontextfenster von 256.000 Tokens und eine maximale Ausgabe von 128.000 Tokens, was großzügig genug ist, um eine große Menge an Quellmaterial zusammen mit der Anfrage aufzunehmen und dennoch Raum für eine substanzielle Antwort zu lassen. Unterstützte Anfrageparameter sind max_tokens, response_format, seed, stop, temperature, tool_choice, tools und top_p. Das Vorhandensein von tools und tool_choice passt zu seinem toolgetriebenen Design: Es wird erwartet, dass das Modell view_file und grep aufruft, während es seine Antwort erzeugt.

Praktische Anwendungen ergeben sich aus diesem Design. Wenn Sie einen Coding-Assistenten bauen, einen Agenten, der Fragen zu einem Repository beantwortet, oder eine Pipeline, die die für eine Änderungsanfrage relevanten Dateien finden muss, ist Relace Search auf genau diese Aufgabe ausgerichtet. Statt eine Codebasis einzubetten und zu hoffen, dass eine Ähnlichkeitssuche die richtigen Chunks findet, lassen Sie das Modell entscheiden, welche Dateien geöffnet und nach welchen Mustern gegrept werden soll, und dann die relevanten Dateien zurückgeben. Es passt auch zu Workflows, bei denen ein nachgelagerter Schritt eine Auswahlliste von Dateien statt eines fertigen Patches benötigt, etwa bei Triage, beim Onboarding in ein unbekanntes Repository oder beim Scoping vor einer Bearbeitung.

Sie rufen es über die OpenAI-kompatible API von api14 mit der Modell-ID relace/relace-search auf. Da die Schnittstelle der Form der OpenAI-Chat-Completions folgt, senden Sie eine Anfrage mit dem auf diese ID gesetzten Feld model und Ihren Nachrichten, und Sie können jeden der unterstützten Parameter übergeben: max_tokens, response_format, seed, stop, temperature, tool_choice, tools und top_p. Wenn Ihr vorhandener Code bereits auf einen OpenAI-kompatiblen Endpunkt abzielt, besteht die Umstellung auf dieses Modell weitgehend darin, den Modellstring zu ändern und, wo relevant, Tool-Definitionen bereitzustellen.

Ein Punkt, den man abwägen sollte, ist der Umfang. Die Anbieterbeschreibung rahmt das Modell um die Erkundung von Codebasen mit view_file und grep, sodass Aufgaben, die nichts mit dem Auffinden von Dateien in einem Repository zu tun haben, möglicherweise besser von einem allgemeinen Textmodell bedient werden. Wenn Sie Bild- oder Audioeingaben benötigen, akzeptiert dieses Modell sie nicht, da sowohl Eingabe als auch Ausgabe nur Text sind.