OpenRouter: Fusion

OpenRouter: Fusion to model tekstowy od OpenRouter. Jest wymieniony na api14 pod identyfikatorem modelu openrouter/fusion i należy do kategorii tekstowych. Zamiast odpowiadać na prompt w jednym przebiegu, Fusion zamienia Twój prompt w małą debatę wielu modeli: panel modeli eksperckich analizuje Twój prompt równolegle, z włączonym wyszukiwaniem w sieci i pobieraniem stron internetowych, a następnie kolejny krok tworzy odpowiedź. Jeśli wybierasz model do zadania, w którym pierwsza odpowiedź pojedynczego modelu może pominąć kontekst dostępny online, Fusion jest zbudowany wokół tego założenia.

Po stronie wejścia Fusion przyjmuje tekst i zwraca tekst. Nie przyjmuje obrazów, dźwięku ani innych danych wejściowych innych niż tekst i ich nie generuje. Okno kontekstu wynosi 1 000 000 tokenów, co wystarcza na bardzo długie dokumenty, bazy kodu, transkrypcje lub pakiety badawcze złożone z wielu dokumentów w jednym żądaniu. Opis dostawcy nie podaje maksymalnej długości wyjścia, więc rozmiar wyjścia należy traktować jako coś do potwierdzenia na podstawie własnego użycia, a nie zakładać opublikowany limit.

Praktyczne przypadki użycia wynikają z równoległej analizy eksperckiej oraz wyszukiwania w sieci i pobierania stron internetowych. Zadania badawcze i syntetyzujące pasują dobrze: zbieranie informacji z kilku źródeł i uzgadnianie ich w jedną odpowiedź. Weryfikacja faktów i pytania o bieżące wydarzenia korzystają z dostępu do sieci, ponieważ panel może sprawdzać informacje, zamiast polegać wyłącznie na danych treningowych. Praca z długim kontekstem, taka jak przegląd dużej specyfikacji, porównywanie kilku długich dokumentów lub streszczanie obszernego wątku, również pasuje do okna 1 000 000 tokenów. Promptowanie w stylu deliberacji, w którym chcesz, aby przed odpowiedzią rozważono więcej niż jeden tok rozumowania, to główny scenariusz, dla którego model został zaprojektowany.

Wywołujesz go przez zgodne z OpenAI API api14, używając identyfikatora modelu openrouter/fusion, więc istniejące zestawy SDK i klienty OpenAI działają po zmianie tylko bazowego adresu URL i klucza. Lista obsługiwanych parametrów modelu jest pusta, co oznacza, że nie udokumentowano obsługi żadnych parametrów żądania poza podstawowymi polami ukończenia czatu. W praktyce wysyłaj swoje wiadomości i polegaj na wartościach domyślnych; nie zakładaj, że temperature, top_p, max_tokens lub podobne opcje dostrajania będą respektowane, i sprawdzaj otrzymaną odpowiedź, zamiast planować wokół konkretnego zachowania parametru.

Ponieważ lista obsługiwanych parametrów jest pusta i nie opublikowano maksymalnego wyjścia, Fusion słabo się nadaje, jeśli Twoja aplikacja zależy od precyzyjnej kontroli nad próbkowaniem lub od gwarantowanego limitu wyjścia. Obsługuje też tylko tekst, więc każde zadanie z obrazami lub dźwiękiem wymaga innego modelu. W przypadku prostego generowania tekstu o dużym wolumenie, gdzie wystarczy jeden szybki model, prostszy model może być lepszym wyborem; Fusion jest ukierunkowany na prompty, w których równoległa analiza i dostęp do sieci na żywo dodają wartość.