Qwen: Qwen2.5 VL 72B Instruct

Qwen: Qwen2.5 VL 72B Instruct는 Alibaba Cloud가 개발한 모델 패밀리인 Qwen의 비전 언어 모델입니다. 이름에서 "72B"는 기반 모델의 크기를 나타내고, "Instruct"는 단순히 텍스트를 이어 쓰는 것이 아니라 지시를 따르도록 튜닝되었음을 나타냅니다. 이 모델은 api14의 text 카테고리에 속하며, 제공자 릴리스 날짜인 2025년 2월 1일로 식별됩니다. 다른 Qwen 모델을 다뤄본 적이 있다면, 이 모델은 동일한 계보를 텍스트와 함께 이미지를 포함하는 입력으로 확장합니다. 제공자는 이 모델이 꽃, 새, 물고기, 곤충과 같은 일반적인 객체를 인식하는 데 능숙하며, 이미지 내의 텍스트, 차트, 아이콘, 그래픽, 레이아웃을 분석하는 능력이 매우 뛰어나다고 설명합니다.

이 모델은 텍스트와 이미지 입력을 받고 텍스트만 반환합니다. 컨텍스트 윈도우는 128,000 토큰이고 최대 출력은 115,200 토큰이므로, 긴 문서와 긴 생성 모두 단일 요청에 편안하게 들어갑니다. 지식 컷오프는 2024년 6월 30일이며, 이는 질문이 그 날짜 이후의 사건이나 릴리스에 의존할 때 중요합니다. 이미지가 일급 입력이므로, 지시와 시각 자료를 섞은 프롬프트를 보낼 수 있고, 모델은 답변을 생성할 때 둘 모두를 추론합니다. 출력은 항상 텍스트이므로, 다른 형식으로 필요한 것은 무엇이든 텍스트로 생성되어 다운스트림에서 파싱되어야 합니다.

이러한 기능은 상당히 특정한 작업 집합을 가리킵니다. 문서 및 차트 분석이 가장 명백합니다. 대시보드, 스캔한 표, 다이어그램의 스크린샷을 넣고 요약이나 추출된 값을 요청하는 것입니다. 시각적 검사 작업은 객체 인식 강점에서 이어집니다. 예를 들어 사진에 나타나는 것을 분류하거나 설명하는 것입니다. 레이아웃 이해는 요소의 위치가 의미를 가지는 양식, 영수증, 인터페이스 목업을 처리할 때 유용합니다. 그리고 컨텍스트 윈도우가 크기 때문에, 모든 것을 직접 청크로 나누는 대신 여러 이미지와 긴 참조 텍스트를 한 번의 호출로 결합할 수 있습니다.

모델 id "qwen/qwen2.5-vl-72b-instruct"를 사용하여 api14의 OpenAI 호환 API를 통해 이 모델을 호출합니다. 지원되는 요청 파라미터는 frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k, top_logprobs, top_p입니다. response_format과 structured_outputs의 존재는 스키마를 준수하는 출력이 필요할 때 유용하며, seed는 호출 간에 반복 가능한 결과를 원할 때 도움이 됩니다. 이 모델은 출력이 텍스트 전용이라는 점에 유의하세요. 따라서 작업이 음성, 오디오, 비디오 생성이라면 api14의 다른 모델이 더 적합합니다.