OpenAI: o1

OpenAI o1 är en textfokuserad modell från OpenAI, släppt den 17 december 2024. Den tillhör o1-familjen, som OpenAI beskriver som sin senaste och starkaste modellfamilj. Den bärande idén bakom serien är att modellen lägger mer tid på att tänka innan den svarar, och den tränades med storskalig förstärkningsinlärning för att resonera. Om du har använt tidigare OpenAI-chattmodeller är den praktiska skillnaden att o1 är byggd för att arbeta igenom ett problem internt i stället för att svara omedelbart.

På indatasidan tar o1 emot text, bilder och filer, och den returnerar text. Kontextfönstret är 200 000 tokens, med en maximal utdata på 100 000 tokens, så långa dokument och stora prompter ryms bekvämt tillsammans med ett omfattande genererat svar. Dess kunskapsgräns är den 31 oktober 2023, vilket spelar roll när din uppgift beror på händelser eller biblioteksversioner efter det datumet. Parametrar som stöds i förfrågningar inkluderar max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning och include_reasoning. Parametrarna reasoning och include_reasoning är specifika för den här familjen och låter dig styra eller synliggöra modellens interna resonemang i stället för att behandla det som en svart låda.

Dessa förmågor pekar mot en ganska specifik uppsättning användningsfall. Den stora kontexten och filindata passar för analys av långa dokument, avtal, forskningsartiklar eller kodbaser där svaret beror på detaljer utspridda över många sidor. Bildindata utökar detta till diagram, skärmbilder och skannat material som behöver tolkas tillsammans med text. Eftersom modellen är tränad att resonera passar den för problem i flera steg: felsökning, matematiskt arbete, planering och uppgifter där en felaktig första gissning är dyrbar. Stöd för verktyg och strukturerad utdata gör den användbar i pipelines där modellen måste anropa funktioner eller returnera JSON som efterföljande kod kan tolka.

Du anropar o1 via api14:s OpenAI-kompatibla API med modell-id:t "openai/o1". Eftersom gränssnittet följer formen för OpenAI chat completions fungerar befintliga OpenAI SDK-klienter i allmänhet efter att du pekar bas-URL:en mot api14 och byter in det modell-id:t. Parametrarna för förfrågningar som listas ovan är de du bör förlita dig på: max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning och include_reasoning. Om du behöver deterministisk sampling för testning finns seed tillgänglig; om du behöver maskinläsbar utdata täcker structured_outputs och response_format det.

En begränsning värd att notera är kunskapsgränsen den 31 oktober 2023, så allt som kräver aktuell information måste komma från din prompt, uppladdade filer eller ett verktygsanrop i stället för modellens egen kunskap. Endast text är möjligt, så bildgenerering ligger utanför omfånget. Om din arbetsbelastning är latenskänslig chatt som kräver tungt resonemang passar en lättare modell bättre.