Z.ai: GLM Flash Latest

GLM Flash Latest는 Z.ai의 텍스트 생성 모델로, 모델 id ~z-ai/glm-flash-latest로 공개되어 있습니다. 이 이름은 엔드포인트의 동작 방식을 반영합니다. 항상 GLM Flash 제품군의 최신 모델로 리디렉션하므로, 오늘 보낸 요청과 나중에 보낸 요청이 Z.ai가 제품군을 업데이트함에 따라 서로 다른 기반 버전에서 처리될 수 있습니다. 버전 번호를 직접 추적하지 않고 최신 GLM Flash 동작을 원한다면, 이 별칭이 그것을 얻기 위한 의도된 방법입니다.

이 모델은 텍스트, 이미지, 비디오를 입력으로 받고 텍스트를 출력으로 생성합니다. 컨텍스트 윈도우는 1,048,576 토큰이며, 최대 출력은 943,718 토큰입니다. 이처럼 매우 큰 입력 윈도우와 매우 큰 출력 허용량의 조합은 긴 문서, 스크립트 또는 미디어를 지시문과 함께 보내고도 모델의 응답을 위한 상당한 여유를 남길 수 있음을 의미합니다. 이미지와 비디오가 입력 측에서 허용되므로, 프롬프트는 하나의 요청 안에서 작성된 자료와 시각적 자료를 혼합할 수 있습니다.

이러한 기능은 상당히 특정한 용도 집합을 가리킵니다. 긴 컨텍스트 작업이 확실한 적합처입니다. 더 작은 윈도우에는 들어가지 않을 긴 보고서, 코드베이스, 로그 또는 도서 컬렉션을 요약하거나 구조화된 정보를 추출하는 작업입니다. 멀티모달 입력은 이미지와 비디오 클립을 설명하거나 추론하는 작업을 지원합니다. 예를 들어 영상이나 스크린샷을 작성된 요약, 캡션 또는 구조화된 노트로 바꾸는 것입니다. 큰 출력 예산은 답변 자체가 긴 생성 작업에도 적합합니다. 짧은 답변이 아니라 문서 초안을 작성하거나 상세한 분석을 산출하는 경우입니다.

이 모델은 모델 id "~z-ai/glm-flash-latest"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 인터페이스가 OpenAI chat completions 형태를 따르므로, 기존 OpenAI 클라이언트 라이브러리와 코드는 일반적으로 base URL과 모델 id만 변경하면 작동합니다. 이 모델은 다양한 요청 매개변수를 지원합니다. temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs입니다. 또한 제약된 출력을 위한 response_format과 structured_outputs, 함수 호출을 위한 tools, tool_choice, parallel_tool_calls, 그리고 추론 제어를 위한 reasoning, reasoning_effort, include_reasoning을 지원합니다.

한 가지 실용적인 고려 사항은 별칭 동작입니다. 엔드포인트가 최신 GLM Flash 모델로 리디렉션하므로, 정확한 기반 모델은 시간이 지나면서 바뀔 수 있습니다. 이는 최신 상태를 유지하는 데는 편리하지만, 회귀 테스트를 위해 고정되고 재현 가능한 버전이 필요하다면 덜 적합합니다. 이 모델은 출력 측에서 텍스트 전용이므로, 생성된 이미지, 오디오 또는 기타 비텍스트 출력이 필요한 작업은 그 범위를 벗어납니다. 다만 텍스트 생성 내에서는 백만 토큰 입력 윈도우, 멀티모달 입력, 큰 출력 허용량의 조합이 폭넓은 개발자 워크로드를 포괄합니다.