Qwen: Qwen3 30B A3B

Qwen: Qwen3 30B A3B는 Qwen의 텍스트 모델로, Qwen 대규모 언어 모델 시리즈의 최신 세대입니다. 이는 dense 아키텍처와 mixture-of-experts (MoE) 아키텍처를 모두 포함하는 Qwen3 패밀리에 속하며, 이 특정 변형은 30B A3B MoE 모델입니다. 제공업체가 2025-04-28에 출시했으며, 지식 컷오프는 2025-03-31입니다.

이 모델은 텍스트를 입력으로 받아 텍스트를 출력하므로, 이미지나 오디오 처리가 없는 단순한 언어 모델입니다. 40,960 토큰의 컨텍스트 윈도우를 지원하며 단일 응답에서 최대 16,384개의 출력 토큰을 생성할 수 있습니다. Qwen은 Qwen3 시리즈를 추론, 다국어 지원, 고급 에이전트 작업에 강하다고 설명하며, 이 모델은 reasoning 파라미터와 include_reasoning을 함께 노출하여 추론 콘텐츠를 반환할지 여부를 제어할 수 있습니다. 또한 구조화된 출력과 response_format을 지원하므로, 애플리케이션에 예측 가능한 출력이 필요할 때 생성을 스키마나 특정 형식으로 제한할 수 있습니다.

이러한 기능은 몇 가지 실용적인 용도를 시사합니다. 약 40K 토큰까지의 긴 입력은 문서 분석, 장문 보고서 요약, 이전 컨텍스트가 중요한 다중 턴 대화에 적합합니다. 추론 및 구조화된 출력 지원 덕분에 JSON으로의 데이터 추출이나 고정된 레이블 집합을 사용한 분류처럼 단계별 문제 해결 후 기계가 읽을 수 있는 답변이 필요한 작업에 합리적으로 적합합니다. 도구 호출은 tools 및 tool_choice 파라미터를 통해 사용할 수 있으므로, 외부 함수나 API를 호출하는 에이전트 루프에서 의사 결정 구성 요소로 이 모델을 사용할 수 있습니다. Qwen3 시리즈의 다국어 지원은 번역 및 교차 언어 콘텐츠 작업의 후보로도 만들어 줍니다.

모델 id "qwen/qwen3-30b-a3b"를 사용하여 api14의 OpenAI 호환 API를 통해 모델을 호출합니다. 인터페이스가 OpenAI 형식을 따르므로 기존 OpenAI 클라이언트 라이브러리는 base URL과 API 키를 변경하면 작동합니다. 이 모델은 다양한 요청 파라미터 집합을 지원합니다: frequency_penalty, presence_penalty, repetition_penalty, temperature, top_p, top_k, min_p, max_tokens, stop, seed, logit_bias, response_format, structured_outputs, tools, tool_choice, reasoning, include_reasoning. temperature, top_p, top_k, min_p 같은 샘플링 제어를 통해 결정성과 다양성을 맞바꿀 수 있으며, seed는 재현 가능한 실행에 도움이 됩니다.

결정할 때 주목할 만한 몇 가지 한계가 있습니다. 입력과 출력은 텍스트 전용이므로, 작업에 이미지나 오디오가 포함된다면 이 모델은 적합한 선택이 아닙니다. 40,960 토큰 컨텍스트와 16,384 토큰 출력 상한은 넉넉하지만 유한하므로, 매우 큰 코퍼스는 모델 앞에서 청킹이나 검색이 필요합니다. 추론이나 도구 사용이 필요하지 않다면 더 작거나 단순한 텍스트 모델로 충분할 수 있으며, 텍스트를 넘어선 모달리티가 필요하다면 이를 받아들이는 모델을 찾아야 합니다.