AionLabs: Aion-3.0

AionLabs: Aion-3.0 è un modello testuale di AionLabs. È un sistema multi-modello per roleplaying e narrazione costruito sulla famiglia di modelli GLM, e utilizza un processo di generazione collaborativa in cui più modelli specializzati contribuiscono ciascuno all'output. Questo design significa che il modello non è una singola rete monolitica ma un insieme coordinato di componenti, cosa che vale la pena tenere a mente quando si pensa a come si comporta in produzione.

Il modello lavora con input testuale e produce output testuale. Ha una finestra di contesto di 131072 token, sufficientemente ampia da contenere lunghe conversazioni, passaggi narrativi estesi o documenti di riferimento di dimensioni considerevoli insieme alle istruzioni. L'output massimo è di 32768 token, quindi le risposte possono essere lunghe quando serve, anche se è ovviamente possibile limitarle per singola richiesta.

Poiché Aion-3.0 è costruito per roleplaying e narrazione, gli usi ovvi derivano da questo: chat guidata dai personaggi, narrativa interattiva, stesura di narrazioni lunghe, world building con contesto persistente e agenti conversazionali che devono mantenere il personaggio attraverso molti turni. L'approccio di generazione collaborativa è orientato alla qualità di storia e dialogo piuttosto che a compiti ristretti di classificazione o estrazione, quindi va trattato come un generatore testuale general purpose con una forte propensione al lavoro creativo e conversazionale.

Si chiama tramite l'API compatibile con OpenAI di api14 usando il model id "aion-labs/aion-3.0", quindi gli SDK e i client OpenAI esistenti funzionano cambiando solo la base URL e la chiave. I parametri di richiesta supportati sono include_reasoning, max_tokens, reasoning, response_format, temperature, tool_choice, tools e top_p. Questa combinazione copre il controllo del campionamento, la lunghezza dell'output, l'output strutturato tramite response_format e il function calling tramite tools con tool_choice, oltre a interruttori espliciti per il comportamento di reasoning.

Se il compito è puramente estrazione deterministica, classificazione o conversione di formato rigorosa senza alcun elemento conversazionale, un modello general purpose più piccolo può essere più semplice ed economico da gestire. Aion-3.0 è più utile quando il lavoro implica dialogo prolungato, coerenza dei personaggi o generazione narrativa su input lunghi.