inclusionAI: Ling 3.1 Flash

Ling 3.1 Flash는 inclusionAI의 텍스트 모델입니다. 이 모델은 하이브리드 추론 전문가 혼합(mixture-of-experts) 모델로, 전체 560B 파라미터 중 25B가 활성 파라미터입니다. 제공업체는 2026-10-02에 이를 출시했습니다. 텍스트 카테고리에 속하므로 이미지, 오디오 또는 비디오 작업보다는 언어 작업을 대상으로 합니다.

이 모델은 텍스트를 입력으로 받고 텍스트를 출력으로 반환합니다. 컨텍스트 윈도우는 262144 토큰이고 최대 출력은 235929 토큰이므로, 그 범위 내에서 긴 입력과 긴 생성이 모두 가능합니다. 하이브리드 추론 모델이기 때문에 최종 답변과 함께 추론 출력을 생성할 수 있으며, 이 동작은 reasoning 및 include_reasoning 파라미터를 통해 제어할 수 있습니다. 전문가 혼합 설계는 토큰당 전체 파라미터 중 일부만 활성화된다는 것을 의미하며, 이는 비슷한 전체 크기의 dense 모델 대비 처리량을 중요하게 여기는 경우 관련이 있습니다.

실용적인 사용 사례는 긴 컨텍스트와 추론 능력에서 나옵니다. 긴 문서 분석, 대용량 파일 요약, 긴 원문 자료에 대한 질의응답이 262144 토큰 윈도우 안에 들어갑니다. 코드 및 기술 작업은 추론 모드의 이점을 받으며, 모델은 답변하기 전에 문제를 풀어나갈 수 있습니다. 도구 호출이 지원되므로 외부 함수를 호출해야 하는 에이전트 스타일 워크플로에서 모델을 결정 계층으로 사용할 수 있습니다. 대규모 텍스트 배치에 대한 구조화된 추출과 분류도 합리적으로 적합하며, seed 파라미터는 실행 간 일관된 출력이 필요할 때 재현 가능한 샘플링을 가능하게 합니다.

모델 id "inclusionai/ling-3.1-flash"를 사용하여 api14의 OpenAI 호환 API를 통해 모델을 호출합니다. 지원되는 요청 파라미터는 frequency_penalty, include_reasoning, logprobs, max_tokens, presence_penalty, reasoning, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k, top_logprobs 및 top_p입니다. 출력에 대한 토큰 수준 세부 정보를 원하면 logprobs와 top_logprobs를 사용할 수 있습니다. 모델이 외부 함수를 사용하게 하려면 tools와 tool_choice를 전달하십시오. 샘플링 동작은 temperature, top_p, top_k, repetition_penalty, presence_penalty 및 frequency_penalty로 제어하며, stop 시퀀스가 지원됩니다.

한 가지 유념할 점은 이 모델이 텍스트 전용이라는 것입니다. 애플리케이션이 이미지나 오디오를 직접 처리해야 한다면 이 모델은 그러한 입력을 받지 않습니다. 추론 모드는 선택 사항이며 켜거나 끌 수 있으므로, 요청별로 추가 추론 출력이 유용한지 아니면 필요하지 않은 토큰만 더하는지 결정할 수 있습니다. 단순한 짧은 텍스트 작업에는 더 작거나 비추론 모델이 운영하기 더 간단할 수 있으며, 컨텍스트 길이, 추론 또는 도구 호출이 결정적 요인일 때는 Ling 3.1 Flash가 더 적합합니다.