AionLabs: Aion 3.5

Aion 3.5는 AionLabs의 텍스트 모델로, api14에 모델 id aion-labs/aion-3.5로 등록되어 있습니다. AionLabs는 이를 GLM 모델 계열을 기반으로 구축된 다중 모델 역할극 및 스토리텔링 시스템이라고 설명합니다. 단일 모놀리식 생성기가 아니라, 여러 특화 모델이 각각 출력에 기여하는 협업 생성 프로세스를 사용합니다. 이러한 설계 선택은 이 모델이 무엇을 잘하는지를 규정하며, 파이프라인에서 이 모델을 어디에 배치할지 결정할 때 염두에 둘 가치가 있습니다.

입력 측면에서 Aion 3.5는 텍스트만 받고 텍스트만 반환하므로, 오디오, 이미지 또는 비디오 작업에는 적합하지 않습니다. 컨텍스트 윈도우는 262,144 토큰으로, 긴 대화, 확장된 서사 구조 또는 상당한 분량의 참조 문서를 단일 요청에 담을 수 있을 만큼 충분히 큽니다. 최대 출력은 32,768 토큰이므로 필요할 때 응답을 길게 생성할 수 있습니다. 이 모델은 추론 출력을 지원하며, include_reasoning, reasoning, reasoning_effort 파라미터를 통해 그 동작을 제어할 수 있습니다.

이러한 기능은 상당히 특정한 용도 집합을 가리킵니다. 역할극과 인터랙티브 스토리텔링은 명백한 용도인데, 이 모델이 그러한 목적으로 만들어졌고 긴 컨텍스트 덕분에 세션이 많은 이전 턴을 잘라내지 않고 유지할 수 있기 때문입니다. 같은 특성은 사용자와 모델이 함께 이야기를 만들어 가는 캐릭터 중심 채팅, 장편 소설 초안 작성, 협업 글쓰기 도구에도 적합합니다. 32,768 토큰 출력 상한은 여러 짧은 완성을 이어 붙이는 대신 한 번의 응답으로 전체 장면이나 장 절을 원할 때 도움이 됩니다. response_format을 통한 구조화된 출력과 tools 및 tool_choice를 통한 함수 호출도 이 모델이 정의된 형태로 데이터를 반환하거나 여러분의 코드를 호출해야 하는 애플리케이션에서 사용할 수 있게 해줍니다.

api14의 OpenAI 호환 API를 통해 모델 id aion-labs/aion-3.5로 호출하므로, 기존 OpenAI SDK와 클라이언트는 base URL과 모델 이름만 바꾸면 작동합니다. 지원되는 요청 파라미터는 include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, temperature, tool_choice, tools, top_p입니다. 샘플링 제어에는 temperature와 top_p를, 응답 길이 제한에는 max_tokens를, 모델의 추론을 보고 조정하고 싶을 때는 reasoning 파라미터를 사용하세요. tools와 tool_choice 쌍은 함수 호출을, response_format은 구조화된 출력을 담당합니다.

이 모델은 텍스트 입력과 텍스트 출력이므로, 다른 모달리티에 의존하는 작업에는 다른 모델이 필요합니다. 역할극과 스토리텔링에 특화된 모델이 아니라 범용 어시스턴트를 원하는 경우에도 마찬가지입니다. 다만 도구 및 구조화된 출력 지원 덕분에 더 큰 애플리케이션 내부의 생성 단계로는 여전히 사용할 수 있습니다.