Relace: Relace Search

Relace Search는 Relace의 텍스트 모델로, api14에 모델 id relace/relace-search로 등록되어 있습니다. 텍스트 카테고리에 속하며, 일반 채팅보다는 코드베이스 탐색을 중심으로 설계되었습니다. 제공자에 따르면 이 모델은 4개에서 12개의 view_file 및 grep 도구를 병렬로 사용해 코드베이스를 탐색하고 사용자 요청과 관련된 파일을 반환합니다. 따라서 검색 영역에 속하지만, RAG에서 사용하는 임베딩 및 벡터 검색 방식이 아니라 에이전트 방식에 가깝습니다.

이 모델은 텍스트를 입력으로 받고 텍스트를 출력으로 반환합니다. 컨텍스트 윈도우는 256,000 토큰이고 최대 출력은 128,000 토큰으로, 요청과 함께 대량의 소스 자료를 담고도 상당한 답변을 위한 여유를 남길 만큼 충분합니다. 지원되는 요청 파라미터는 max_tokens, response_format, seed, stop, temperature, tool_choice, tools, top_p입니다. tools와 tool_choice의 존재는 도구 기반 설계와 일치합니다. 즉 이 모델은 답변을 생성하는 과정에서 view_file과 grep을 호출하는 것이 기대됩니다.

실용적인 용도는 이런 설계에서 따라옵니다. 코딩 어시스턴트, 저장소에 관한 질문에 답하는 에이전트, 변경 요청과 관련된 파일을 찾아야 하는 파이프라인을 만들고 있다면 Relace Search가 그 작업을 겨냥한 모델입니다. 코드베이스를 임베딩한 뒤 유사도 검색이 올바른 청크를 찾아주기를 바라는 대신, 모델이 어떤 파일을 열고 어떤 패턴을 grep할지 스스로 결정하게 한 다음 관련 파일을 반환받습니다. 완성된 패치가 아니라 파일 후보 목록이 다음 단계에 필요한 워크플로에도 적합합니다. 예를 들어 트리아지, 낯선 저장소에 적응하기, 편집 전 범위 산정 같은 작업입니다.

이 모델은 모델 id relace/relace-search를 사용해 api14의 OpenAI 호환 API로 호출합니다. 인터페이스가 OpenAI chat completions 형태를 따르므로, model을 해당 id로 설정하고 messages를 담은 요청을 보내면 되며, 지원되는 파라미터인 max_tokens, response_format, seed, stop, temperature, tool_choice, tools, top_p 중 무엇이든 전달할 수 있습니다. 기존 코드가 이미 OpenAI 호환 엔드포인트를 대상으로 하고 있다면, 이 모델로 전환하는 일은 대부분 모델 문자열을 바꾸고 필요한 경우 도구 정의를 제공하는 문제입니다.

고려해야 할 점 하나는 범위입니다. 제공자 설명이 이 모델을 코드베이스 탐색용 view_file과 grep 중심으로 규정하므로, 파일 위치를 찾는 작업이라면 범용 텍스트 모델이 더 나을 수 있습니다. 이미지나 오디오 입력이 필요하다면 이 모델은 입력과 출력이 모두 텍스트이므로 지원하지 않습니다.