OpenAI: o1-pro

OpenAI o1-pro to model tekstowy od OpenAI, należący do serii o1. OpenAI opisuje rodzinę o1 jako modele trenowane z użyciem uczenia ze wzmocnieniem, aby myśleć przed udzieleniem odpowiedzi i przeprowadzać złożone rozumowanie, a o1-pro to wariant, który wykorzystuje więcej mocy obliczeniowej, aby myśleć intensywniej i udzielać odpowiedzi. Należy do kategorii tekstowych i został udostępniony przez dostawcę 2025-03-19.

Model przyjmuje jako dane wejściowe tekst, obrazy i pliki, a zwraca tekst. Jego okno kontekstowe wynosi 200 000 tokenów, a maksymalne wyjście to 100 000 tokenów. Data odcięcia wiedzy to 2023-10-31. Ponieważ model rozumuje przed odpowiedzią, odpowiedzi mogą trwać dłużej i zużywać więcej tokenów niż standardowy model czatowy, co warto mieć na uwadze, projektując rozwiązania pod kątem opóźnień i budżetów wyjściowych.

Połączenie dużego okna kontekstowego, wprowadzania plików i obrazów oraz celowego rozumowania wskazuje na zadania, w których model musi przetworzyć dużo materiału przed odpowiedzią. Przykłady obejmują analizę długich dokumentów lub baz kodu dostarczonych jako pliki, rozwiązywanie problemów wieloetapowych, w których pośrednie rozumowanie ma znaczenie, wyodrębnianie ustrukturyzowanych wyników z mieszanych danych tekstowych i obrazowych oraz zadania, które korzystają z możliwości zbadania problemu z kilku stron przed udzieleniem odpowiedzi. Kontekst 200 000 tokenów sprawia, że praktyczne jest przekazanie znacznego materiału źródłowego w jednym żądaniu zamiast dzielenia go na fragmenty.

o1-pro wywołujesz przez api14 za pomocą interfejsu API zgodnego z OpenAI, używając identyfikatora modelu "openai/o1-pro". Obsługiwane parametry żądania to include_reasoning, max_tokens, reasoning, response_format, seed i structured_outputs. include_reasoning i reasoning odnoszą się do zachowania modelu podczas myślenia, response_format i structured_outputs pozwalają ograniczyć kształt zwracanego tekstu, max_tokens ogranicza wyjście, a seed wspiera powtarzalne próbkowanie, o ile backend to respektuje.

Ponieważ rozumowanie odbywa się przed odpowiedzią, o1-pro nie jest oczywistym wyborem do prostego czatu wrażliwego na opóźnienia, w którym wystarczyłby lżejszy model tekstowy. Data odcięcia wiedzy 2023-10-31 oznacza również, że model nie ma świadomości zdarzeń po tej dacie, więc wszystko, co zależy od czasu, musi zostać dostarczone w prompcie lub pobrane osobno. Wyjście jest wyłącznie tekstowe, więc jeśli potrzebujesz generowanych obrazów lub dźwięku, będziesz potrzebować innego modelu.