Qwen: Qwen3.6 35B A3B

Qwen: Qwen3.6 35B A3B는 Alibaba Cloud의 모델 패밀리인 Qwen에서 나온 오픈 웨이트 멀티모달 모델입니다. 총 350억 개의 파라미터를 가지고 있으며 토큰당 30억 개의 활성 파라미터를 사용하고, 하이브리드 희소 전문가 혼합(mixture-of-experts) 아키텍처를 채택합니다. 각 토큰마다 가중치의 일부만 관여하기 때문에, 추론 효율성과 성능 사이의 균형을 맞추도록 설계되었으며, 이는 많은 요청을 처리할 계획일 때 중요합니다.

이 모델은 텍스트, 이미지, 비디오 입력을 받아들이고 텍스트 출력만 생성합니다. 컨텍스트 윈도우는 262,144 토큰이고 최대 출력은 65,536 토큰입니다. 이러한 조합은 입력은 크지만 답변은 상대적으로 짧은 작업, 예를 들어 긴 문서나 스크린샷 세트, 비디오를 읽고 요약, 추출 또는 결정을 반환하는 경우에 적합합니다.

실용적인 용도는 이러한 속성에서 비롯됩니다. 긴 컨텍스트 텍스트 작업은 자연스럽게 맞습니다. 긴 보고서 요약, 대규모 코드베이스나 녹취록에 대한 질문 답변, 그렇지 않으면 청킹이 필요한 다중 문서 분석 등이 그렇습니다. 이미지와 비디오 입력은 이를 시각 자료로 확장하므로, 프레임을 설명하거나 차트나 다이어그램을 읽거나 녹화된 세션에서 구조화된 데이터를 추출할 수 있습니다. 도구 및 함수 호출 지원 덕분에 API나 데이터베이스를 쿼리하는 에이전트의 추론 코어로 활용할 수 있으며, 구조화된 출력을 사용하면 애플리케이션이 직접 파싱할 수 있는 스키마로 응답을 제한할 수 있습니다. 모델의 중간 단계를 보고 싶을 때는 추론 출력을 별도로 요청하고 검사할 수 있습니다.

모델 id "qwen/qwen3.6-35b-a3b"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 지원하는 요청 파라미터는 frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, presence_penalty, reasoning, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs, top_p입니다. 엔드포인트가 OpenAI 스키마를 따르므로 기존 클라이언트와 SDK는 일반적으로 base URL과 모델 id만 변경하면 작동하며, tools와 tool_choice를 사용하면 별도의 통합 경로 없이 함수 호출을 연결할 수 있습니다.

출력 상한을 염두에 두세요. 65,536 토큰은 대부분의 답변에 넉넉하지만 무제한은 아니므로, 매우 긴 문서를 출력해야 하는 작업은 여러 호출로 나누어야 할 수 있습니다. 컨텍스트 윈도우는 크지만 여전히 유한하므로, 극단적으로 긴 입력은 잘라내기나 검색이 필요합니다. 워크로드가 텍스트 전용이고 지연 시간이나 처리량이 가장 큰 관심사라면 더 작은 dense 모델이 더 나을 수 있습니다. 오디오 입력이나 이미지 생성 출력이 필요하다면 다른 모델이 필요합니다. 이 모델은 텍스트, 이미지, 비디오 입력과 텍스트 출력을 다루기 때문입니다.