Microsoft: Microsoft-Decision-1

Microsoft-Decision-1 to model firmy Microsoft, wymieniony na api14 pod identyfikatorem modelu microsoft/microsoft-decision-1. Należy do kategorii decyzji, a nie do ogólnej kategorii czatu, co odzwierciedla jego przeznaczenie: szybkie podejmowanie decyzji zamiast prowadzenia rozmowy. Microsoft opisuje go jako mały model, więc jest skierowany do zadań, w których szybka odpowiedź liczy się bardziej niż długie generowanie tekstu.

Model przyjmuje jako dane wejściowe wyłącznie tekst i zwraca decyzje jako dane wyjściowe. Nie pisze prozy. Zamiast tego odczytuje treść, którą mu przekażesz, i zwraca skalibrowane prawdopodobieństwo dla każdej ustalonej opcji odpowiedzi, którą mu podasz. Oznacza to, że definiujesz możliwe odpowiedzi, a model je ocenia, zamiast wybierać jedną w dowolnym tekście. Okno kontekstu wynosi 32768 tokenów, a maksymalna długość danych wyjściowych to 29491 tokenów. Żadne parametry żądania nie są wymienione jako obsługiwane dla tego modelu.

Ponieważ dane wyjściowe to prawdopodobieństwo dla każdej opcji, naturalne przypadki użycia to zadania klasyfikacji i routingu. Możesz go użyć do przypisania przychodzącego tekstu do jednej z kilku znanych etykiet, do zdecydowania, która kolejka lub procedura obsługi powinna przetworzyć żądanie, albo do oceny kandydatów na odpowiedzi, gdy potrzebujesz wartości pewności, a nie jednego twardego wyboru. Wszędzie tam, gdzie w przeciwnym razie poleciłbyś modelowi czatu odpowiedzieć jednym słowem ze stałego zbioru, ten model daje tę samą decyzję z dołączonym skalibrowanym prawdopodobieństwem, co jest przydatne, gdy dalsza logika musi działać na podstawie tego, jak pewny jest model.

Wywoływanie go przez api14 działa tak samo jak w przypadku każdego innego modelu w bramie, przy użyciu interfejsu API zgodnego z OpenAI i identyfikatorem modelu microsoft/microsoft-decision-1. Wysyłasz swoją treść i ustalone opcje odpowiedzi w żądaniu, a otrzymujesz z powrotem prawdopodobieństwa. Ponieważ żadne parametry żądania nie są wymienione jako obsługiwane, zaplanuj podstawową strukturę żądania i nie polegaj na opcjonalnych ustawieniach, takich jak temperature czy top_p, aby zmienić zachowanie. Sprawdź bieżącą tabelę cen na stronie, aby poznać aktualne stawki.

Główne ograniczenia wynikają z konstrukcji. Dane wejściowe to wyłącznie tekst, więc obrazy, dźwięk i inne modalności są poza zakresem. Dane wyjściowe to decyzje, a nie proza, więc jeśli potrzebujesz wyjaśnienia, podsumowania lub wygenerowanego dokumentu, lepszym wyborem będzie model generowania tekstu. Okno kontekstu wynoszące 32768 tokenów ogranicza również ilość treści, którą możesz wprowadzić na jedno wywołanie. W tych granicach jest to wyspecjalizowane narzędzie do szybkiego zamieniania tekstu w ocenione wybory.