Reka Edge

Reka Edge는 Reka AI의 멀티모달 모델로, api14에 모델 id rekaai/reka-edge로 등록되어 있습니다. 이는 효율성을 위해 만들어진 7B 비전-언어 모델이며, 이는 매우 큰 모델을 실행하지 않고도 멀티모달 이해를 원할 때 중요합니다. 제공자는 이 모델이 이미지 이해에 특화되어 최적화되었다고 설명하며, 카탈로그의 텍스트 범주에 속하므로 텍스트 생성이 주된 출력입니다.

입력 측면에서 Reka Edge는 이미지, 비디오, 텍스트를 받아들이고 텍스트를 생성합니다. 따라서 프롬프트가 시각 미디어와 서면 지시를 결합하고 답변이 산문, 구조화된 텍스트 또는 도구 호출로 돌아오는 워크로드에 적합합니다. 컨텍스트 윈도우는 입력과 출력을 합쳐 16,384 토큰이고, 최대 출력은 14,745 토큰이므로 프롬프트를 위한 공간을 남기면서 상당히 긴 생성을 요청할 수 있습니다. 지원되는 요청 매개변수에는 temperature, top_p, top_k, frequency_penalty, presence_penalty, seed, stop, max_tokens, logprobs, top_logprobs가 포함되므로 일반적인 샘플링 제어와 함께 토큰 수준 확률 검사도 사용할 수 있습니다.

텍스트와 함께 이미지 및 비디오 입력을 처리하기 때문에, 명백한 사용 사례는 모델이 시각 콘텐츠를 일반적인 용어로 설명하는 것이 아니라 읽어야 하는 경우입니다. 스크린샷 및 문서 이미지 이해, 그림에 있는 내용을 추출하거나 요약하기, 비디오 클립에 대한 질문에 답하기, 텍스트와 미디어가 섞인 프롬프트를 받는 어시스턴트 구축은 모두 명시된 기능에서 이어집니다. structured_outputs 매개변수는 응답을 기계가 읽을 수 있는 형태로 유도할 수 있음을 의미하고, tools와 tool_choice를 사용하면 모델을 함수 호출 흐름에 연결할 수 있으므로 시각 입력에 대해 작동하는 에이전트의 추론 단계 역할을 할 수 있습니다.

api14를 통해 호출하는 방식은 OpenAI 호환 엔드포인트의 다른 모델과 동일합니다. model 필드를 rekaai/reka-edge로 설정한 채팅 완성 요청을 보내고, 필요에 따라 텍스트와 이미지 또는 비디오 콘텐츠가 포함된 메시지를 넣고, 지원되는 매개변수 중 하나를 요청 본문에 전달합니다. 별도의 SDK나 변환 계층이 필요하지 않으므로 기존 OpenAI 클라이언트 코드는 모델 id를 바꾸고 관련된 곳에 미디어 페이로드를 추가하기만 하면 됩니다.

염두에 두어야 할 주요 제약은 16,384 토큰 컨텍스트입니다. 입력에 긴 비디오, 큰 문서 또는 긴 주고받은 기록이 포함되면 이 예산은 빠르게 채워지며, 더 큰 컨텍스트를 가진 모델이 작업에 더 적합할 수 있습니다. Reka Edge는 텍스트 전용 모델이나 매우 긴 컨텍스트를 목표로 하는 모델보다는, 구조화된 출력과 도구 지원으로 이미지 및 비디오 이해를 처리하는 소형 멀티모달 모델을 원할 때 가장 유용합니다.