쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
처음이신가요? 사용법을 확인해 보세요 플레이그라운드, 모델, API 키를 1분 만에 둘러보세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
inclusionai/ling-3.0-tiny위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
설정
Ling 3.0 Tiny는 inclusionAI의 텍스트 모델입니다. 전체 7.9B 파라미터 중 1.3B가 활성화되는 mixture-of-experts 모델입니다. 설계 목표는 응답성이 뛰어난 에이전트, 명령 수행, 멀티턴 대화이며, 모델은 전환 가능한 추론 동작을 지원합니다. 텍스트 카테고리에 속하므로 이미지, 오디오 또는 기타 미디어가 아닌 언어 작업을 위한 모델입니다.
모델은 텍스트를 입력으로 받고 텍스트를 출력으로 반환합니다. 컨텍스트 윈도우는 262144 토큰이고 최대 출력은 250000 토큰이므로, 단일 요청 안에서 매우 긴 입력과 매우 긴 생성이 모두 가능합니다. 추론은 켜거나 끌 수 있으며, 활성화하면 include_reasoning 파라미터를 통해 추론 내용을 별도로 표시할 수 있습니다. 큰 컨텍스트와 상대적으로 적은 활성 파라미터 수의 이러한 조합은 긴 문서와 함께 지연 시간과 처리량이 중요한 워크로드에 적합한 후보가 됩니다.
실용적인 용도는 이러한 특성에서 비롯됩니다. 응답성이 뛰어난 에이전트와 도구 기반 워크플로는 명령 수행 및 tools 지원에 적합합니다. 멀티턴 대화 시스템은 이전 턴과 참조 자료를 프롬프트에 유지할 수 있으므로 긴 컨텍스트의 이점을 얻습니다. 컨텍스트 윈도우가 크기 때문에 긴 문서 요약, 추출, 질의응답이 가능합니다. 구조화된 출력 작업은 response_format을 통해 동작하며, 분류 또는 점수 산정 작업은 logprobs와 top_logprobs를 사용할 수 있습니다. 추론 비중이 높은 프롬프트는 최종 답변 전에 단계별 작업이 필요한 경우 추론을 활성화하여 처리할 수 있습니다.
모델은 모델 id "inclusionai/ling-3.0-tiny"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 인터페이스가 OpenAI chat completions 형태를 따르므로 기존 OpenAI SDK와 클라이언트는 base URL을 api14로 지정하고 모델 id를 설정하면 동작합니다. 지원되는 요청 파라미터는 frequency_penalty, include_reasoning, logprobs, max_tokens, presence_penalty, reasoning, response_format, seed, stop, temperature, tools, top_logprobs, top_p입니다. max_tokens로 생성을 제한하고, temperature와 penalty 파라미터로 스타일과 반복을 조정하며, seed로 재현 가능한 샘플링을 하고, stop으로 선택한 시퀀스에서 생성을 종료합니다. Tools는 함수 호출을 활성화하고, response_format은 출력 구조를 제한합니다.
다른 모델이 더 적합할 수 있는 경우도 있습니다. 이 모델은 텍스트만 처리하므로 이미지나 오디오 입력 또는 출력이 필요한 작업에는 다른 모델이 필요합니다. tiny 변형이므로 작업이 가능한 가장 강력한 추론이나 지식을 요구한다면 같은 계열의 더 큰 모델이나 다른 제공자의 모델이 더 나은 선택일 수 있습니다. 지원되는 파라미터 범위 내의 단순한 텍스트 생성, 에이전트, 긴 컨텍스트 작업에는 합리적인 기본 선택입니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "inclusionai/ling-3.0-tiny",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_tokenspresence_penaltyreasoningresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_logprobstop_p이 커뮤니티에는 아직 토픽이 없습니다. inclusionAI: Ling 3.0 Tiny에 대한 첫 토픽을 열어 보세요.