Z.ai: GLM 4.5

Z.ai: GLM 4.5는 Z.ai의 텍스트 모델로, 제공업체가 2025-07-25에 출시했습니다. 이 모델은 Z.ai의 최신 플래그십 파운데이션 모델로 설명되며, 에이전트 기반 애플리케이션을 위해 특별히 제작되었고, Mixture of Experts (MoE) 아키텍처를 사용합니다. 계획을 세우고, 도구를 호출하고, 긴 답변을 생성해야 하는 애플리케이션을 위한 범용 텍스트 모델을 선택한다면, 이것은 Z.ai가 자사 라인업의 최상위에 위치시키는 모델입니다.

이 모델은 텍스트를 입력으로 받고 텍스트를 출력으로 반환하므로, 표준 채팅 및 완성 스타일 워크로드에 적합합니다. 최대 131072 토큰, 대략 128k의 컨텍스트 길이와 최대 98304 토큰의 출력을 지원합니다. 지식 컷오프는 2024-12-31이므로, 그 날짜 이후의 내용은 모델이 학습한 범위 밖입니다. 큰 컨텍스트 윈도우와 큰 출력 예산의 조합은 긴 문서, 대화 기록 또는 도구 결과를 입력하면서도 상당한 응답을 위한 여유를 남길 수 있다는 뜻입니다.

이러한 기능은 몇 가지 실용적인 용도를 가리킵니다. 에이전트 스타일 워크플로가 가장 명확한 적합성인데, 모델이 이를 위해 특별히 제작되었고 도구 호출을 지원하여 함수를 언제 호출할지, 결과를 어떻게 사용할지 스스로 결정할 수 있기 때문입니다. 긴 문서 작업도 또 다른 용도입니다. 더 작은 컨텍스트에는 들어가지 않을 입력을 요약하거나, 구조화된 데이터를 추출하거나, 질문에 답하는 작업입니다. 응답 형식 파라미터를 받으므로, 다운스트림 처리를 위한 JSON처럼 출력을 특정 방식으로 형성해야 하는 작업에도 사용할 수 있습니다. 추론 지원 덕분에 최종 답변 전에 단계별 사고가 도움이 되는 문제에 적합합니다.

이 모델은 모델 id "z-ai/glm-4.5"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 지원하는 요청 파라미터는 include_reasoning, max_tokens, reasoning, response_format, temperature, tool_choice, tools, top_k, top_p입니다. 실제로 이는 temperature, top_p, top_k로 샘플링을 제어하고, max_tokens로 응답 길이를 제한하고, reasoning 및 include_reasoning 옵션으로 추론을 활성화하거나 검사하고, tools 및 tool_choice로 호출 가능한 함수를 정의하고, response_format으로 출력 형태를 제한할 수 있다는 뜻입니다.

한 가지 유념할 점은 이 모델이 텍스트 전용이라는 것입니다. 이미지나 오디오를 받지 않으므로, 입력에 그러한 것이 포함된다면 다른 모델이나 전처리 단계가 필요합니다. 2024-12-31의 지식 컷오프는 또한 프롬프트에 정보를 제공하지 않는 한 그 날짜 이후의 사건을 알지 못한다는 뜻입니다. 추론이나 도구 기능이 필요 없는 단순하고 지연 시간이 낮은 작업에는 더 작은 모델이 더 적합할 수 있습니다.