LiquidAI: LFM2.5-2.6B

LiquidAI: LFM2.5-2.6B는 Liquid AI의 텍스트 모델입니다. LFM2.5 제품군에 속하며, 이름의 2.6B는 해당 라인 내에서의 크기 등급을 나타냅니다. Liquid AI는 이를 소형 추론 모델로 포지셔닝하는데, 이는 추론 동작이 나중에 덧붙여진 것이 아니라 모델이 수행하도록 만들어진 기능의 일부라는 뜻입니다. 텍스트 범주에 속하므로 이미지, 오디오 또는 기타 미디어가 아닌 언어를 다룹니다.

입력 측면에서 이 모델은 텍스트만 받아들이고 텍스트만 생성합니다. 컨텍스트 윈도우는 128,000 토큰으로, 상당한 분량의 문서, 긴 대화 기록 또는 다중 문서 검색 페이로드를 단일 요청에 담을 수 있을 만큼 큽니다. 최대 출력은 8,192 토큰이므로 응답은 입력 용량보다 훨씬 낮은 수준으로 제한됩니다. 추론은 인터페이스의 일급 요소입니다. 지원되는 파라미터에는 reasoning과 include_reasoning이 포함되어 모델의 추론 출력을 제어하고 표시할 수 있습니다. 또한 구조화된 출력과 response_format을 지원하므로 자유 텍스트 대신 스키마에 맞춰 생성을 제한할 수 있습니다.

이러한 기능들은 상당히 구체적인 용도 집합을 가리킵니다. Liquid AI는 에이전트 워크플로, 데이터 추출, RAG 및 장문 컨텍스트 처리를 의도된 적합 용도로 명시합니다. 데이터 추출과 구조화된 출력은 자연스럽게 어울립니다. 문서를 입력하고 정의된 형태로 필드를 반환하도록 요청하는 것입니다. RAG는 128,000 토큰 컨텍스트의 이점을 누리는데, 검색된 구절을 과도하게 잘라내지 않고도 채워 넣을 수 있기 때문입니다. 에이전트 워크플로는 tools와 tool_choice 파라미터를 통해 지원되며, 이를 통해 모델이 사용자가 정의한 함수를 호출할 수 있습니다. 장문 컨텍스트 처리는 요약, 대규모 입력에 대한 질의응답, 그리고 전체 문서를 한 번에 볼 수 있어야 하는 유사 작업을 포괄합니다.

모델 id "liquid/lfm-2.5-2.6b"를 사용하여 api14의 OpenAI 호환 API를 통해 이 모델을 호출합니다. 인터페이스가 OpenAI 형식을 따르므로 기존 OpenAI 클라이언트 라이브러리는 base URL과 모델 id만 변경하면 작동합니다. 지원하는 요청 파라미터는 frequency_penalty, include_reasoning, logprobs, max_completion_tokens, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs 및 top_p입니다. 이는 샘플링 제어, 페널티, 중지 시퀀스, 재현성을 위한 시드, 토큰 제한, 도구 호출, 구조화된 출력 및 로그 확률 검사를 포괄합니다.

한 가지 한계는 미리 언급할 가치가 있습니다. Liquid AI는 이 모델을 에이전트형 코딩에 사용하지 말 것을 권고하므로, 워크로드가 코드 생성이나 코딩 에이전트라면 다른 모델이 더 적합할 가능성이 높습니다. 8,192 토큰 출력 상한도 매우 긴 단일 응답이 필요한 작업에서는 중요합니다. 하지만 위에 나열된 영역의 텍스트 작업에서는 큰 컨텍스트 윈도우, 추론 지원, 도구 호출 및 구조화된 출력의 조합 덕분에 평가해 볼 만한 합리적인 후보입니다.