쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
처음이신가요? 사용법을 확인해 보세요 플레이그라운드, 모델, API 키를 1분 만에 둘러보세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
ricursiveai/ripple-65b-preview위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
설정
Ripple-65B-Preview는 ricursiveAI의 텍스트 모델로, 프리뷰 빌드로 공개되었습니다. 65B 파라미터 모델이며 BF16으로 서빙되고, 텍스트 카테고리에 속하므로 이미지, 오디오 또는 다른 모달리티보다는 언어 작업을 겨냥합니다. 프리뷰라는 표기는 이것이 최종적이고 확정된 릴리스가 아니라 모델의 초기 버전임을 나타냅니다.
이 모델은 텍스트를 입력으로 받고 텍스트를 출력으로 반환하며, 컨텍스트 윈도우는 1,048,576 토큰입니다. 이는 긴 문서, 방대한 코드 파일 또는 장시간의 대화 기록과 같은 매우 큰 입력을 여러 호출로 나누지 않고 단일 요청에 담을 수 있을 만큼 충분한 공간입니다. 최대 출력은 131,072 토큰이므로 응답도 길게 만들 수 있습니다. 네이티브 도구 호출은 모델 자체의 일부이므로, 사용자가 정의한 함수를 언제 호출할지 스스로 결정하고 그 결과를 답변에 반영할 수 있습니다.
이러한 기능은 몇 가지 실용적인 활용 패턴을 시사합니다. 큰 컨텍스트는 모델이 전체 코퍼스를 한 번에 추론해야 하는 작업에 적합합니다. 긴 계약서 검토, 대규모 코드베이스 요약, 또는 별도의 검색 단계 없이 큰 문서 집합에 대해 질문에 답하는 작업 등입니다. 네이티브 도구 호출은 모델이 API, 데이터베이스 또는 내부 서비스를 조회한 뒤 반환된 데이터에서 이어서 작업하는 에이전트 스타일 워크플로에 맞습니다. 긴 출력 제한은 짧은 답변이 아니라 전체 보고서, 대규모 리팩터링 또는 완전한 파일이 필요할 때 도움이 됩니다.
api14의 OpenAI 호환 API를 통해 모델 id "ricursiveai/ripple-65b-preview"로 호출할 수 있습니다. 인터페이스가 OpenAI 형식을 따르므로 기존 OpenAI SDK와 클라이언트는 base URL과 모델 id만 변경하면 작동합니다. 지원하는 요청 파라미터는 logprobs, max_tokens, response_format, seed, temperature, tool_choice, tools, top_logprobs, top_p입니다. 이는 temperature와 top_p를 통한 샘플링 제어, seed를 통한 결정적 실행, response_format을 통한 구조화된 출력, tools와 tool_choice를 통한 함수 호출을 포괄합니다. 토큰 수준의 신뢰도 정보가 필요하면 logprobs와 top_logprobs를 사용할 수 있습니다.
프리뷰 릴리스이므로 프로덕션에서 사용하기로 결정하기 전에 자체 워크로드로 테스트해 보고, 더 새로운 빌드가 나왔는지 확인하는 것이 좋습니다. 작업이 작거나 지연 시간에 민감하다면 65B 모델은 필요 이상일 수 있으며, 더 작은 모델이 더 나은 선택일 수 있습니다. 작업이 텍스트 기반이 아니라면 이 모델은 텍스트만 받아들이고 생성하므로 적합하지 않습니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "ricursiveai/ripple-65b-preview",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
logprobsmax_tokensresponse_formatseedtemperaturetool_choicetoolstop_logprobstop_p이 커뮤니티에는 아직 토픽이 없습니다. Ricursive: Ripple 65B Preview에 대한 첫 토픽을 열어 보세요.