Tencent: Hunyuan A13B Instruct

Tencent Hunyuan A13B Instruct는 Tencent의 텍스트 생성 모델로, 2025년 7월 8일에 공개되었습니다. 이 모델은 13B 활성 파라미터와 총 80B 파라미터 수를 가진 Mixture-of-Experts (MoE) 언어 모델입니다. 표준 지시 수행과 더불어 Chain-of-Thought를 통한 추론을 지원하므로, 최종 답변을 내놓기 전에 중간 단계를 거치는 것이 도움이 되는 작업에 유용합니다.

이 모델은 텍스트를 입력으로 받고 텍스트를 출력으로 반환합니다. 컨텍스트 윈도우는 131,072 토큰이고 최대 출력은 117,964 토큰이므로, 긴 문서를 처리하고 단일 요청에서 긴 응답을 생성할 수 있습니다. 지식 컷오프는 2025년 3월 31일입니다. 이러한 특성은 이 모델을 짧은 프롬프트만이 아니라 상당한 단일 패스 작업에 적합한 모델 범위에 위치시킵니다.

큰 컨텍스트 윈도우와 긴 최대 출력 때문에, 일반적인 사용 사례로는 긴 문서 요약 또는 분석, 긴 입력에서 구조화된 정보 추출, 청킹 없이 확장된 기술 또는 편집 초안 생성 등이 있습니다. Chain-of-Thought 추론은 계획 수립, 여러 부분으로 된 질문 응답, 가시적이거나 내부적인 추론 흔적이 신뢰성을 높이는 작업과 같은 다단계 문제에 적합합니다. 구조화된 출력과 response_format 지원 또한 자유 텍스트가 아닌 기계 판독 가능한 결과가 필요한 파이프라인에 합리적으로 맞습니다.

모델은 모델 id "tencent/hunyuan-a13b-instruct"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 지원하는 요청 파라미터는 frequency_penalty, include_reasoning, max_tokens, reasoning, response_format, structured_outputs, temperature, top_k, top_p입니다. 모델의 추론 동작을 표면화하거나 제어하려면 include_reasoning과 reasoning이 관련 파라미터이고, 결정적 형식 지정에는 response_format과 structured_outputs를 사용할 수 있습니다. 텍스트 전용 모델이므로 입력은 텍스트여야 하고 출력도 텍스트입니다.

텍스트 전용 모달리티를 고려할 때, 애플리케이션에 이미지, 오디오 또는 기타 비텍스트 입력이 필요하다면 다른 모델이 더 적합합니다. 이는 Hunyuan A13B Instruct가 허용하는 범위를 벗어나기 때문입니다. 이 모델은 다양한 샘플링 및 형식 지정 파라미터를 지원하므로, 대부분의 표준 텍스트 생성 워크로드는 우회 방법 없이 직접 구성할 수 있습니다.