AionLabs: Aion 3.5

Aion 3.5 to model tekstowy od AionLabs, wymieniony w api14 pod identyfikatorem modelu aion-labs/aion-3.5. AionLabs opisuje go jako wielomodelowy system do odgrywania ról i opowiadania historii, zbudowany na rodzinie modeli GLM. Zamiast pojedynczego monolitycznego generatora wykorzystuje proces generowania oparty na współpracy, w którym wiele wyspecjalizowanych modeli wnosi wkład do wyniku. Ten wybór projektowy kształtuje to, w czym model jest dobry, i warto o tym pamiętać, decydując, gdzie umieścić go w potoku przetwarzania.

Po stronie wejścia Aion 3.5 przyjmuje wyłącznie tekst i zwraca wyłącznie tekst, więc nie nadaje się do pracy z dźwiękiem, obrazem ani wideo. Jego okno kontekstu wynosi 262 144 tokeny, co wystarcza, aby pomieścić długie rozmowy, rozbudowane wątki narracyjne lub spore dokumenty referencyjne w jednym żądaniu. Maksymalna długość wyjścia to 32 768 tokenów, więc odpowiedzi mogą być długie, gdy tego potrzebujesz. Model obsługuje dane wyjściowe rozumowania, a tym zachowaniem można sterować za pomocą parametrów include_reasoning, reasoning i reasoning_effort.

Te możliwości wskazują na dość konkretny zestaw zastosowań. Odgrywanie ról i interaktywne opowiadanie historii są tymi oczywistymi, ponieważ model został do nich zbudowany, a długi kontekst pozwala sesji utrzymać wiele wcześniejszych tur bez przycinania. Te same właściwości pasują do czatu opartego na postaciach, tworzenia draftów długiej fikcji oraz narzędzi do wspólnego pisania, w których użytkownik i model budują historię razem. Limit wyjścia 32 768 tokenów pomaga, gdy chcesz uzyskać pełną scenę lub fragment rozdziału w jednej odpowiedzi, zamiast sklejać wiele krótkich uzupełnień. Ustrukturyzowane wyjście przez response_format oraz wywoływanie funkcji przez tools i tool_choice sprawiają też, że model nadaje się do aplikacji, które wymagają zwracania danych w określonym kształcie lub wywoływania twojego własnego kodu.

Wywołujesz go przez zgodne z OpenAI API api14, używając identyfikatora modelu aion-labs/aion-3.5, więc istniejące zestawy SDK i klienty OpenAI działają po zmianie bazowego adresu URL i nazwy modelu. Obsługiwane parametry żądania to include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, temperature, tool_choice, tools i top_p. Użyj temperature i top_p do kontroli próbkowania, max_tokens do ograniczenia długości odpowiedzi, a parametrów rozumowania, gdy chcesz zobaczyć lub ukierunkować rozumowanie modelu. Para tools i tool_choice obejmuje wywoływanie funkcji, a response_format obejmuje ustrukturyzowane wyjścia.

Ponieważ model przyjmuje tekst i zwraca tekst, zadania zależne od innych modalności wymagają innego modelu. To samo dotyczy sytuacji, gdy chcesz ogólnego asystenta, a nie modelu dostrojonego do odgrywania ról i opowiadania historii, choć obsługa narzędzi i ustrukturyzowanego wyjścia oznacza, że nadal może służyć jako krok generowania w większej aplikacji.