Qwen: Qwen3.8 2.4T A95B

Qwen3.8 2.4T A95B는 Qwen의 오픈 가중치 희소 전문가 혼합(mixture-of-experts) 모델이며, Qwen3.8 Max의 오픈 가중치 변형입니다. 이름은 아키텍처를 반영합니다. 전체 2.4조 개 중 950억 개의 활성 파라미터를 사용하므로, 토큰당 네트워크의 일부만 관여하지만 전체 모델은 여전히 매우 큰 가중치 풀을 보유합니다. 텍스트 카테고리에 속하며, 텍스트를 입력받아 텍스트를 반환합니다.

대부분의 통합에서 가장 주목할 수치는 1,048,576 토큰의 컨텍스트 윈도우이며, 이는 전체 코드베이스, 긴 문서 세트 또는 장시간의 대화 기록을 단일 요청에 담을 수 있을 만큼 충분히 큽니다. 출력은 131,072 토큰으로 제한되므로 긴 입력과 함께 긴 생성도 가능합니다. 이 모델은 추론 동작을 지원하며, 여기에는 reasoning 파라미터, reasoning_effort 제어, include_reasoning 플래그가 포함되어 추론 콘텐츠를 표면화할지 결정할 수 있습니다. 또한 구조화된 출력과 response_format을 지원하므로, 자유 텍스트를 파싱하는 대신 응답을 스키마에 맞게 제한할 수 있습니다.

이러한 기능은 상당히 특정한 용도 집합을 가리킵니다. 긴 컨텍스트 분석이 가장 명확한 예입니다. 전체 리포지토리, 계약서 묶음, 로그 아카이브 또는 연구 코퍼스를 입력하고 검색 계층 없이 전체에 걸쳐 질문하는 것입니다. tools와 tool_choice가 지원되므로, 이 모델은 함수나 외부 API를 호출하는 에이전트의 추론 코어 역할을 할 수 있습니다. 구조화된 출력은 지저분한 입력에서 일관된 JSON이 필요한 추출 파이프라인에 적합하게 만듭니다. 추론 제어는 모델이 문제를 단계별로 풀어나가길 원하는 작업에 적합하며, 샘플링 파라미터는 결정적 생성 또는 더 탐색적 생성에 맞게 동작을 조정할 여지를 줍니다.

api14를 통해 호출하는 방식은 API가 OpenAI 호환되므로 플랫폼의 다른 모델과 동일합니다. 모델 id "qwen/qwen3.8-2.4t-a95b"와 일반적인 형식의 메시지를 chat completions 엔드포인트로 보내면 됩니다. 지원되는 요청 파라미터는 frequency_penalty, include_reasoning, logit_bias, logprobs, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs, top_p입니다. 이미 OpenAI SDK에 맞춰 작성된 코드가 있다면, base URL을 api14로 지정하고 모델 id를 바꾸는 것이 일반적으로 전부입니다.

두 가지 실용적인 참고 사항이 있습니다. 첫째, 이것은 텍스트 전용 모델입니다. 이미지나 오디오 입력이 없으므로 멀티모달이 필요한 경우 다른 모델이 필요합니다. 둘째, 전문가 혼합 설계는 활성 파라미터 수가 전체보다 훨씬 적다는 것을 의미하지만, 2.4조 파라미터 모델은 여전히 큰 모델이며, 1M 토큰 컨텍스트는 요청이 많은 입력을 담을 수 있음을 의미합니다. 깊이보다 지연 시간이나 처리량이 더 중요한 짧고 단순한 작업에는 더 작은 모델이 보통 더 나은 선택입니다.