OpenAI: o3 Mini High

OpenAI o3 Mini High to model tekstowy od OpenAI. Jest to ten sam model bazowy co o3-mini, z parametrem reasoning_effort skutecznie przypiętym do wartości high, więc otrzymujesz najbardziej przemyślaną wersję zachowania rozumowania modelu, a nie osobną architekturę. OpenAI pozycjonuje o3-mini jako efektywny kosztowo model językowy zoptymalizowany pod rozumowanie w dziedzinach STEM, a ten wariant o wysokim nakładzie jest skierowany do zadań, w których dodatkowa głębia rozumowania ma większe znaczenie niż opóźnienie.

Model przyjmuje dane wejściowe w postaci tekstu i plików oraz zwraca tekst. Ma okno kontekstu wynoszące 200 000 tokenów i może wygenerować do 100 000 tokenów wyjściowych, więc zarówno długie dane wejściowe, jak i długie odpowiedzi strukturalne są wykonalne w ramach jednego żądania. Jego data odcięcia wiedzy to 31 października 2023. Rozumowanie jest fundamentalną częścią sposobu działania modelu, a nie dodatkiem, co kształtuje zarówno jego mocne strony, jak i sposób konfigurowania wywołań do niego.

Te możliwości wskazują na dość konkretne przypadki użycia. Problemy naukowe i matematyczne, w tym wieloetapowe wyprowadzenia i analiza ilościowa, są najlepiej dopasowane ze względu na nacisk modelu na STEM. Połączenie wprowadzania plików, dużego okna kontekstu i ustrukturyzowanych danych wyjściowych czyni go rozsądnym wyborem do zadań takich jak wyodrębnianie i rozumowanie nad dokumentami technicznymi, przeglądanie kodu lub specyfikacji pod kątem poprawności oraz generowanie JSON ograniczonego schematem, który mogą konsumować systemy downstream. Wywoływanie narzędzi rozszerza to na przepływy pracy, w których model musi wywoływać funkcje lub usługi zewnętrzne jako część dłuższego łańcucha rozumowania. Ponieważ można zażądać danych wyjściowych rozumowania, nadaje się również do przypadków, w których audytowalny ślad myślenia modelu jest przydatny obok ostatecznej odpowiedzi.

Przez api14 wywołujesz go z identyfikatorem modelu "openai/o3-mini-high" przy użyciu API zgodnego z OpenAI, więc istniejące zestawy SDK i klienty OpenAI działają po zmianie bazowego adresu URL i klucza. Obsługiwane parametry żądania to include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, seed, structured_outputs, tool_choice i tools. W praktyce oznacza to, że można ustawić budżet tokenów wyjściowych, kontrolować, czy zawartość rozumowania jest zwracana, sterować zachowaniem rozumowania, żądać odpowiedzi w formacie JSON lub zgodnych ze schematem, ustalić seed dla powtarzalności oraz dołączyć narzędzia z wybraną polityką tool_choice.

Najważniejszą rzeczą do rozważenia jest to, że jest to konfiguracja o wysokim nakładzie celowo efektywnej kosztowo linii modeli, a nie model frontier, i nakład rozumowania nie jest czymś, co się tutaj zmniejsza, jeśli chcesz zamierzonego zachowania tego wariantu. Data odcięcia wiedzy 31 października 2023 oznacza, że wszystko po tej dacie musi pochodzić z twojego promptu, plików lub narzędzi. Jeśli zadanie nie zależy od głębokiego rozumowania w dziedzinach STEM, lżejszy model może być rozsądniejszym domyślnym wyborem.