쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
처음이신가요? 사용법을 확인해 보세요 플레이그라운드, 모델, API 키를 1분 만에 둘러보세요.
쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
liquid/lfm-3-1.7b:free위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
설정
LiquidAI: LFM3-1.7B (free)는 LiquidAI의 텍스트 모델로, api14에서 모델 id liquid/lfm-3-1.7b:free로 식별됩니다. 17억 개의 파라미터를 가진 소형 모델이며, 제공사는 이를 에이전트, 도구 호출, 구조화된 출력을 위해 후속 학습된 소형 텍스트 모델로 위치시킵니다. 양방향 모두 텍스트 전용 모델입니다. 즉, 텍스트 프롬프트를 받아 텍스트 응답을 반환합니다.
이 모델의 컨텍스트 윈도우는 262,144 토큰으로, 이 크기의 모델로서는 크며, 긴 문서, 확장된 대화 또는 상당한 크기의 도구 출력을 단일 요청에서 처리할 수 있습니다. 최대 출력은 8,192 토큰입니다. 제공사에 따르면 이 모델은 답변 전에 추론하므로, 응답에는 최종 출력 앞에 추론 단계가 포함될 수 있습니다. 에이전트 동작을 위해 후속 학습되었기 때문에 도구 호출과 구조화된 출력은 추가 기능이 아니라 설계의 일급 부분입니다.
이러한 기능들은 상당히 특정한 용도 집합을 가리킵니다. 긴 컨텍스트는 장문 문서의 요약 또는 정보 추출, 대형 코드 파일 검토, 이전 턴이 계속 보여야 하는 장기 실행 대화 유지에 적합합니다. 도구 호출은 모델이 어떤 함수를 어떤 인수로 호출할지 결정하는 에이전트 워크플로에 적합하게 만듭니다. 구조화된 출력은 응답이 스키마를 따라야 할 때, 예를 들어 다운스트림 서비스의 필드를 채우거나 기계 판독 가능한 레코드를 생성할 때 도움이 됩니다. 추론 동작은 중간 단계가 최종 답변을 개선하는 다단계 질문에 유용합니다.
이 모델은 모델 id liquid/lfm-3-1.7b:free를 사용하여 api14의 OpenAI 호환 API를 통해 호출하므로, 기존 OpenAI 클라이언트 라이브러리와 요청 형태가 base URL과 모델 이름만 변경하면 작동합니다. 이 모델은 다양한 요청 파라미터를 지원합니다: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, max_tokens, max_completion_tokens, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning, include_reasoning. temperature와 top_p 같은 샘플링 제어는 일반 생성에 적용되고, tools와 tool_choice는 함수 호출을 구동하며 structured_outputs 또는 response_format은 응답의 형태를 제한합니다. reasoning과 include_reasoning 파라미터는 모델의 추론 단계와 관련되며, seed는 재현 가능한 샘플링을 지원합니다.
기억해야 할 주요 제약은 출력 상한입니다. 컨텍스트 윈도우가 훨씬 크더라도 응답은 8,192 토큰으로 제한되므로, 매우 긴 단일 응답이 필요한 작업은 호출을 나누어 작업을 분할해야 할 수 있습니다. 또한 이 모델은 텍스트 전용이므로 이미지나 오디오를 입력으로 받을 수 없습니다. 도구 호출과 구조화된 출력을 갖춘 작고 효율적인 텍스트 모델이면 충분한 워크로드에는 합리적인 선택입니다. 작업이 다른 입력 모달리티나 훨씬 더 큰 출력 예산에 의존한다면 다른 모델이 더 적합할 것입니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p이 커뮤니티에는 아직 토픽이 없습니다. LiquidAI: LFM3-1.7B (free)에 대한 첫 토픽을 열어 보세요.