AionLabs: Aion 3.5 Mini

Aion 3.5 Mini는 AionLabs의 텍스트 모델로, api14에 모델 id aion-labs/aion-3.5-mini로 등록되어 있습니다. AionLabs는 이를 GLM 모델 계열을 기반으로 구축된 멀티 모델 롤플레잉 및 스토리텔링 시스템이라고 설명하며, Aion 3.5의 더 작은 형제 모델로 위치시킵니다. 이 설명은 두 모델 중 하나를 선택할 때 중요합니다. Mini 변형은 같은 라인에서 더 가벼운 옵션이며, 범용 채팅만이 아니라 같은 종류의 작업을 겨냥합니다.

이 모델은 텍스트를 입력받아 텍스트를 반환하므로 이미지나 오디오 처리를 고려할 필요가 없습니다. 컨텍스트 윈도우는 262144 토큰으로, 긴 대화, 장문의 서사 초안 또는 상당한 분량의 참고 자료를 단일 요청에 담을 수 있을 만큼 큽니다. 출력은 32768 토큰으로 제한됩니다. 요청 측면에서는 max_tokens, temperature, top_p, response_format을 지원하며, 함수 호출을 위한 tools와 tool_choice도 지원합니다. 또한 추론 제어 기능도 제공합니다. include_reasoning, reasoning, reasoning_effort를 통해 추론 콘텐츠를 반환할지 여부와 모델이 추론에 얼마나 많은 노력을 들일지를 결정할 수 있습니다.

이러한 기능들은 상당히 특정한 용도들을 가리킵니다. 롤플레이와 인터랙티브 스토리텔링이 명시된 초점이며, 긴 컨텍스트는 이전 장면들이 계속 보여야 하는 멀티턴 캐릭터 작업에 적합합니다. 같은 속성들이 장편 소설 초안 작성, 분기형 내러티브 게임, 여러 턴에 걸쳐 일관된 목소리를 유지해야 하는 대화 시스템에도 맞습니다. tools와 response_format을 통한 구조화된 출력을 사용할 수 있기 때문에, 산문을 생성하면서도 함수를 호출하거나 JSON 형태의 결과를 반환해야 하는 애플리케이션, 예를 들어 장면 사이에 세계 상태를 조회하는 스토리 엔진 안에도 들어갈 수 있습니다.

api14를 통해 호출하는 방식은 다른 OpenAI 호환 엔드포인트와 동일합니다. 클라이언트를 api14 base URL로 지정하고, chat completions 요청을 보내며, model 필드를 aion-labs/aion-3.5-mini로 설정하세요. 위에 나열된 매개변수들은 일반적인 방식으로 요청 본문에 전달할 수 있습니다. max_tokens, temperature, top_p, response_format, tools, tool_choice, 그리고 추론 옵션인 include_reasoning, reasoning, reasoning_effort입니다. 기존 코드가 이미 OpenAI 호환 API를 대상으로 하고 있다면 특별한 SDK는 필요하지 않습니다.

주로 저울질해야 할 것은 범위입니다. 입력과 출력은 텍스트 전용이므로 이미지나 오디오가 관련된 작업에는 다른 모델이 필요합니다. 32768 토큰 출력 제한은 또한 매우 긴 단일 응답을 분할하거나 여러 호출에 걸쳐 이어가야 한다는 뜻입니다. 그리고 AionLabs가 이를 롤플레잉 및 스토리텔링 시스템으로 규정하기 때문에, 내러티브와 대화 작업에서 크게 벗어난 작업에는 범용 모델이 더 적합할 수 있습니다.