Sakana: Fugu Ultra

Sakana: Fugu Ultra to model generowania tekstu od Sakana AI i zajmuje najwyższe miejsce w rodzinie Fugu tej firmy jako opcja o wyższej wydajności. To, co czyni linię Fugu nietypową, to jej architektura: zamiast pojedynczego monolitycznego modelu, Fugu jest wyuczonym systemem orkiestracji wielu agentów, w którym model językowy jest trenowany do kierowania pracy między wieloma agentami. Fugu Ultra jest większym, bardziej zdolnym członkiem tej rodziny, więc jeśli oceniasz podejście Sakana, ten wariant jest skierowany do wymagających obciążeń, a nie lekkich.

Po stronie wejścia Fugu Ultra przyjmuje tekst i obrazy, a jako wyjście produkuje tekst. Ta kombinacja oznacza, że możesz wysyłać polecenia łączące pisemne instrukcje z treścią wizualną i otrzymywać pojedynczą odpowiedź tekstową. Okno kontekstu jest bardzo duże i wynosi 1 000 000 tokenów, co pozwala pracować z długimi dokumentami, rozbudowanymi rozmowami lub sporymi zbiorami materiałów w jednym żądaniu bez samodzielnego dzielenia ich na części. Maksymalna długość wyjścia to 128 000 tokenów, więc odpowiedzi mogą być odpowiednio długie, gdy zadanie tego wymaga. Obsługiwane parametry żądania obejmują sterowanie rozumowaniem (reasoning, reasoning_effort i include_reasoning), structured_outputs, użycie narzędzi przez tools i tool_choice oraz web_search_options.

Te możliwości wskazują na dość konkretny zestaw praktycznych zastosowań. Kontekst miliona tokenów pasuje do zadań takich jak analiza długich raportów, umów lub baz kodu albo utrzymywanie ciągłości w długiej sesji. Wejście obrazowe otwiera możliwości rozumienia dokumentów, analizy zrzutów ekranu i przepływów pracy z mieszanymi mediami, w których model musi odczytywać zarówno tekst, jak i elementy wizualne. Ponieważ wywoływanie narzędzi i structured outputs są obsługiwane, Fugu Ultra pasuje również do potoków agentowych: możesz pozwolić mu decydować, kiedy wywołać funkcje zewnętrzne, i ograniczyć jego odpowiedzi do schematu, który twoja aplikacja potrafi przetworzyć. Parametry rozumowania pozwalają zwiększać lub zmniejszać wysiłek w zależności od tego, ile namysłu wymaga zadanie, a web_search_options jest dostępne, gdy żądanie korzysta z wyszukiwania.

Wywoływanie modelu przez api14 jest proste, ponieważ brama udostępnia API zgodne z OpenAI. Wysyłasz żądania do standardowego punktu końcowego chat completions i ustawiasz identyfikator modelu na "sakana/fugu-ultra". Parametry wymienione powyżej można przekazać w treści żądania w zwykły sposób, więc istniejące biblioteki klienta OpenAI i kod, który już celuje w ten interfejs, powinny działać przy minimalnych zmianach, zwykle wystarczy podmienić identyfikator modelu i skierować bazowy adres URL na api14.

Jest kilka rzeczy, o których warto pamiętać. Wyjście jest tylko tekstowe, więc jeśli potrzebujesz generowanych obrazów lub dźwięku, to nie jest model do tego. Obsługiwana lista parametrów nie zawiera elementów sterujących próbkowaniem, takich jak temperature czy top_p, więc jeśli precyzyjna kontrola nad losowością ma znaczenie w twoim przypadku użycia, sprawdź, czy inny model na api14 udostępnia te pokrętła. Poza tym, do zadań tekstowych z długim kontekstem, multimodalnych i korzystających z narzędzi, Fugu Ultra jest rozsądnym kandydatem do przetestowania.