inclusionAI: Ling 3.0 Flash VL

Ling 3.0 Flash VL은 inclusionAI의 모델입니다. 이 모델은 총 파라미터 124B, 활성 파라미터 5.5B의 전문가 혼합(mixture-of-experts) 모델인 Ling 3.0 Flash를 기반으로 하며, 네이티브 시각 인식과 고급 시각 이해 기능을 추가하는 동시에 언어 능력도 더욱 강화했습니다. 이 모델은 텍스트 카테고리에 등록되어 있으므로, 비전 기능에도 불구하고 주로 이미지와 비디오를 읽을 수 있는 언어 모델로 포지셔닝됩니다.

입력 측면에서 Ling 3.0 Flash VL은 텍스트, 이미지, 비디오를 받아들이고 텍스트 출력만 생성합니다. 컨텍스트 윈도우는 262,144 토큰으로, 긴 문서나 긴 대화 기록 또는 비디오에서 파생된 확장 컨텍스트를 단일 요청에 담기에 충분히 큽니다. 최대 출력은 32,768 토큰이므로 응답이 몇백 토큰에서 잘리는 대신 상당한 분량이 될 수 있습니다. 이 모델은 큰 컨텍스트와 시각 입력을 결합하므로, 산문과 시각 콘텐츠가 섞인 자료를 각각에 대해 별도 파이프라인 없이 처리할 수 있습니다.

실용적인 용도는 이러한 기능에서 직접 따라옵니다. 개발자는 스크린샷, 다이어그램, 차트 또는 스캔한 페이지를 질문과 함께 보내고 텍스트 답변을 받을 수 있으며, 이는 문서 질의응답, 사용자가 붙여넣은 내용을 읽어야 하는 지원 도구, 소스가 깔끔한 텍스트가 아니라 이미지인 추출 작업에 적합합니다. 비디오 입력은 화면 녹화나 클립을 검토하고 설명이나 할 일 목록을 요청하는 등 녹화된 자료의 요약이나 질의를 가능하게 합니다. 긴 컨텍스트는 여러 문서 분석, 긴 채팅 세션, 전체 파일을 한눈에 봐야 하는 코드나 로그 검토를 지원합니다. 도구 호출과 구조화된 출력은 에이전트나 데이터 추출 워크플로 내부의 추론 단계로 사용할 수 있게 해줍니다.

모델 id "inclusionai/ling-3.0-flash-vl"을 사용하여 api14의 OpenAI 호환 API를 통해 이 모델을 호출합니다. 지원되는 요청 파라미터는 frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs, top_p입니다. 이 집합은 샘플링 제어, seed를 통한 결정적 실행, logprobs와 top_logprobs를 통한 토큰 수준 검사, 구조화된 출력 형식, tool_choice와 tools를 사용한 도구 사용을 포함합니다. 추론은 reasoning과 include_reasoning 파라미터를 통해 요청하고 응답에 포함할 수 있습니다.

가장 유의할 점은 출력 양식입니다. 이 모델은 이미지와 비디오를 읽지만 텍스트만 반환하므로 미디어를 생성하거나 편집하지 않습니다. 작업이 순전히 텍스트이고 시각 입력의 이점이 없다면, VL 변형의 특징이 시각 인식이라는 점을 고려할 때 기본 Ling 3.0 Flash 라인이 더 적합할 수 있습니다. 이미지나 비디오 생성 또는 오디오 입력이 필요한 워크로드에는 다른 모델이 필요합니다.