AionLabs: Aion 3.5 Mini

Aion 3.5 Mini to model tekstowy od AionLabs, wymieniony na api14 pod identyfikatorem modelu aion-labs/aion-3.5-mini. AionLabs opisuje go jako wielomodelowy system do odgrywania ról i opowiadania historii zbudowany na rodzinie modeli GLM i pozycjonuje go jako mniejszego brata Aion 3.5. To opis ma znaczenie, gdy wybierasz między tymi dwoma: wariant Mini to lżejsza opcja w tej samej linii, przeznaczona do tego samego rodzaju pracy, a nie wyłącznie do ogólnego czatu.

Model przyjmuje tekst i zwraca tekst, więc nie ma potrzeby planowania obsługi obrazu ani dźwięku. Jego okno kontekstu wynosi 262144 tokenów, co wystarcza na długie rozmowy, rozbudowane szkice narracyjne lub spory materiał referencyjny w jednym żądaniu. Wyjście jest ograniczone do 32768 tokenów. Po stronie żądania obsługuje max_tokens, temperature, top_p i response_format oraz tools i tool_choice do wywoływania funkcji. Udostępnia także mechanizmy sterowania rozumowaniem: include_reasoning, reasoning i reasoning_effort, dzięki czemu możesz zdecydować, czy treść rozumowania ma być zwracana i ile wysiłku model ma na nią przeznaczyć.

Te możliwości wskazują na dość konkretny zestaw zastosowań. Odgrywanie ról i interaktywne opowiadanie historii to deklarowany cel, a długi kontekst sprzyja wieloturowej pracy z postaciami, w której wcześniejsze sceny muszą pozostawać w polu widzenia. Te same właściwości pasują do pisania długiej fikcji, gier narracyjnych z rozgałęzieniami i systemów dialogowych, które muszą zachować spójny głos przez wiele tur. Ponieważ dostępne są narzędzia i wyjście strukturalne przez response_format, model może też działać w aplikacji, która potrzebuje wywoływać funkcje lub zwracać wyniki w formacie JSON, a jednocześnie generować prozę, na przykład w silniku opowieści, który między scenami sprawdza stan świata.

Wywoływanie go przez api14 działa jak w przypadku każdego innego punktu końcowego zgodnego z OpenAI. Skieruj klienta na bazowy adres URL api14, wyślij żądanie chat completions i ustaw pole model na aion-labs/aion-3.5-mini. Powyższe parametry można przekazać w treści żądania w zwykły sposób: max_tokens, temperature, top_p, response_format, tools i tool_choice oraz opcje rozumowania include_reasoning, reasoning i reasoning_effort. Nie jest potrzebne żadne specjalne SDK, jeśli istniejący kod już obsługuje API zgodne z OpenAI.

Najważniejsze, co trzeba rozważyć, to zakres. Wejście i wyjście są wyłącznie tekstowe, więc zadania związane z obrazami lub dźwiękiem wymagają innego modelu. Limit wyjścia 32768 tokenów oznacza również, że bardzo długie pojedyncze odpowiedzi trzeba dzielić lub kontynuować w kolejnych wywołaniach. A ponieważ AionLabs określa ten model jako system do odgrywania ról i opowiadania historii, model ogólnego przeznaczenia może lepiej pasować do zadań znacznie wykraczających poza pracę narracyjną i konwersacyjną.