AionLabs: Aion 3.5

Aion 3.5 é um modelo de texto da AionLabs, listado na api14 sob o id de modelo aion-labs/aion-3.5. A AionLabs descreve-o como um sistema multi-modelo de roleplay e narrativa construído sobre a família de modelos GLM. Em vez de um único gerador monolítico, utiliza um processo de geração colaborativo no qual vários modelos especializados contribuem cada um para o resultado. Essa escolha de design molda aquilo em que o modelo é bom, e vale a pena tê-la em conta quando decides onde colocá-lo numa pipeline.

Do lado da entrada, o Aion 3.5 aceita apenas texto e devolve apenas texto, por isso não é adequado para trabalho com áudio, imagem ou vídeo. A sua janela de contexto é de 262.144 tokens, o que é suficientemente grande para conter conversas longas, arcos narrativos extensos ou documentos de referência consideráveis num único pedido. A saída máxima é de 32.768 tokens, por isso as respostas podem ser longas quando precisas que o sejam. O modelo suporta saída de raciocínio, e podes controlar esse comportamento através dos parâmetros include_reasoning, reasoning e reasoning_effort.

Essas capacidades apontam para um conjunto bastante específico de utilizações. Roleplay e narrativa interativa são as óbvias, uma vez que o modelo foi construído para elas e o contexto longo permite que uma sessão carregue muitos turnos anteriores sem cortes. As mesmas propriedades servem para chat orientado a personagens, redação de ficção de forma longa e ferramentas de escrita colaborativa em que um utilizador e o modelo constroem uma história em conjunto. O limite de saída de 32.768 tokens ajuda quando queres uma cena completa ou uma secção de capítulo numa única resposta em vez de juntar muitas conclusões curtas. A saída estruturada via response_format e a chamada de funções via tools e tool_choice também o tornam utilizável em aplicações que precisam que o modelo devolva dados numa forma definida ou chame o teu próprio código.

Chamas-o através da API compatível com OpenAI da api14 usando o id de modelo aion-labs/aion-3.5, por isso os SDKs e clientes OpenAI existentes funcionam com uma mudança de URL base e de nome de modelo. Os parâmetros de pedido suportados são include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, temperature, tool_choice, tools e top_p. Usa temperature e top_p para controlo de amostragem, max_tokens para limitar o comprimento da resposta, e os parâmetros de raciocínio quando queres ver ou orientar o raciocínio do modelo. O par tools e tool_choice cobre a chamada de funções, e response_format cobre saídas estruturadas.

Como o modelo é texto a entrar e texto a sair, tarefas que dependem de outras modalidades precisam de um modelo diferente. O mesmo se aplica se quiseres um assistente de uso geral em vez de um afinado para roleplay e narrativa, embora o suporte de ferramentas e de saída estruturada signifique que ainda pode servir como o passo de geração dentro de uma aplicação maior.