AionLabs: Aion 3.5

Aion 3.5 är en textmodell från AionLabs, listad på api14 under modell-id:t aion-labs/aion-3.5. AionLabs beskriver den som ett rollspels- och berättarsystem med flera modeller byggt på GLM-familjen av modeller. Istället för en enda monolitisk generator använder den en kollaborativ genereringsprocess där flera specialiserade modeller bidrar till utdata. Det designvalet formar vad modellen är bra på, och det är värt att ha i åtanke när du bestämmer var du ska placera den i en pipeline.

På indatasidan accepterar Aion 3.5 endast text och returnerar endast text, så den passar inte för ljud-, bild- eller videarbete. Dess kontextfönster är 262 144 tokens, vilket är tillräckligt stort för att rymma långa konversationer, utsträckta narrativa bågar eller omfattande referensdokument i en enda förfrågan. Den maximala utdatan är 32 768 tokens, så svar kan bli långa när du behöver det. Modellen stöder resonemangsutdata, och du kan styra det beteendet genom parametrarna include_reasoning, reasoning och reasoning_effort.

Dessa förmågor pekar mot en ganska specifik uppsättning användningsområden. Rollspel och interaktivt berättande är de uppenbara, eftersom modellen byggdes för dem och den långa kontexten låter en session bära många tidigare turer utan att trimmas. Samma egenskaper passar karaktärsdriven chatt, utkast till långformig fiktion och verktyg för kollaborativt skrivande där en användare och modellen bygger en berättelse tillsammans. Utdatataket på 32 768 tokens hjälper när du vill ha en hel scen eller kapitelavsnitt i ett svar istället för att sy ihop många korta kompletteringar. Strukturerad utdata via response_format och funktionsanrop via tools och tool_choice gör den också användbar i applikationer som behöver att modellen returnerar data i en definierad form eller anropar din egen kod.

Du anropar den genom api14:s OpenAI-kompatibla API med modell-id:t aion-labs/aion-3.5, så befintliga OpenAI-SDK:er och klienter fungerar med ett byte av bas-URL och modellnamn. De stödda förfrågningsparametrarna är include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, temperature, tool_choice, tools och top_p. Använd temperature och top_p för samplingkontroll, max_tokens för att begränsa svarslängden, och resonemangsparametrarna när du vill se eller styra modellens resonemang. Paret tools och tool_choice täcker funktionsanrop, och response_format täcker strukturerade utdata.

Eftersom modellen är text in och text ut behöver uppgifter som är beroende av andra modaliteter en annan modell. Samma sak gäller om du vill ha en allmän assistent snarare än en som är finjusterad för rollspel och berättande, även om stödet för verktyg och strukturerad utdata innebär att den fortfarande kan fungera som genereringssteget inuti en större applikation.