OpenAI: o3 (batch)

OpenAI o3 (batch) är en textmodell från OpenAI, som erbjuds här under modell-id openai/o3:batch. Den tillhör o3-familjen, som OpenAI beskriver som en välrundad och kraftfull modell över domäner, med en ny standard för matematik, vetenskap, kodning och visuella resonemangsuppgifter, och som även presterar bra på teknisk skrivning och instruktionsföljning. Batch-varianten är samma underliggande modell som exponeras via en batch-liknande endpoint på api14, vilket gör den lämplig för arbetsbelastningar där du kan skicka in arbete och samla in resultat i stället för att behöva varje svar direkt.

Modellen tar emot bild-, text- och filindata och returnerar text. Dess kontextfönster är 200 000 tokens, och maximal utdata är 100 000 tokens, så både långa indata och långa genereringar är möjliga inom samma begäran. Kunskapsavbrottet är 2024-06-30, vilket spelar roll när din uppgift är beroende av aktuella händelser eller nyligen publicerat material. Eftersom den tar bilder och filer tillsammans med text kan den arbeta med blandade indata som ett dokument plus en fråga, eller en skärmbild plus en instruktion, utan en separat förbearbetningsmodell.

Dessa förmågor pekar mot en ganska bred uppsättning praktiska användningsområden. Resonemangstungt arbete som flerstegsmatematik, vetenskaplig problemlösning och kodgenerering eller felsökning passar naturligt, och det gör även visuellt resonemang över diagram, grafer eller skärmbilder. Teknisk skrivning och instruktionsföljning gör den användbar för strukturerad dokumentation, utkast till specifikationer och uppgifter där du behöver att modellen håller sig till ett format. Kontexten på 200 000 tokens hjälper till med långa rapporter, stora källfiler eller indata från flera dokument, och taket på 100 000 tokens i utdata stöder långformsgenerering i ett enda anrop.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id openai/o3:batch. De begäranparametrar som stöds är include_reasoning, max_tokens, reasoning, response_format, seed, structured_outputs, tool_choice och tools. I praktiken innebär det att du kan styra resonemangsbeteendet och huruvida resonemang visas, begränsa utdatalängden med max_tokens, begära strukturerad eller JSON-liknande utdata via response_format och structured_outputs, göra körningar reproducerbara med seed, och definiera funktionsanrop med tools och tool_choice.

En begränsning värd att notera är kunskapsavbrottet 2024-06-30, så om din applikation behöver aktuell information måste du tillhandahålla den i prompten eller via verktyg. Om din uppgift är helt textbaserad och inte drar nytta av resonemang, bild- eller filindata, kan en lättare textmodell vara en bättre matchning.