OpenAI: o1

OpenAI o1 ist ein textfokussiertes Modell von OpenAI, veröffentlicht am 17. Dezember 2024. Es gehört zur o1-Familie, die OpenAI als ihre neueste und stärkste Modellfamilie beschreibt. Die bestimmende Idee hinter der Serie ist, dass das Modell mehr Zeit mit Nachdenken verbringt, bevor es antwortet, und es wurde mit großskaligem Reinforcement Learning trainiert, um zu reasoning. Wenn Sie frühere OpenAI-Chat-Modelle verwendet haben, besteht der praktische Unterschied darin, dass o1 darauf ausgelegt ist, ein Problem intern durchzuarbeiten, anstatt sofort zu antworten.

Auf der Eingabeseite akzeptiert o1 Text, Bilder und Dateien und gibt Text zurück. Das Kontextfenster umfasst 200.000 Token, mit einer maximalen Ausgabe von 100.000 Token, sodass lange Dokumente und große Prompts bequem zusammen mit einer substanziellen generierten Antwort hineinpassen. Der Knowledge Cutoff ist der 31. Oktober 2023, was wichtig ist, wenn Ihre Aufgabe von Ereignissen oder Bibliotheksversionen nach diesem Datum abhängt. Unterstützte Request-Parameter umfassen max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning und include_reasoning. Die Parameter reasoning und include_reasoning sind spezifisch für diese Familie und lassen Sie das interne Reasoning des Modells steuern oder offenlegen, anstatt es als Blackbox zu behandeln.

Diese Fähigkeiten weisen auf eine ziemlich spezifische Menge von Anwendungsfällen hin. Der große Kontext und die Dateieingabe eignen sich für die Analyse langer Dokumente, Verträge, Forschungsarbeiten oder Codebasen, bei denen die Antwort von Details abhängt, die über viele Seiten verteilt sind. Bildeingabe erweitert dies auf Diagramme, Screenshots und gescanntes Material, das zusammen mit Text interpretiert werden muss. Weil das Modell darauf trainiert ist zu reasoning, passt es zu mehrstufigen Problemen: Debugging, mathematische Arbeit, Planung und Aufgaben, bei denen eine falsche erste Vermutung teuer ist. Unterstützung für Tools und strukturierte Ausgabe machen es nutzbar innerhalb von Pipelines, in denen das Modell Funktionen aufrufen oder JSON zurückgeben muss, das nachgelagerter Code parsen kann.

Sie rufen o1 über die OpenAI-kompatible API von api14 mit der Model Id "openai/o1" auf. Weil die Schnittstelle der Form der OpenAI Chat Completions folgt, funktionieren vorhandene OpenAI SDK-Clients im Allgemeinen, nachdem Sie die Base URL auf api14 gerichtet und diese Model Id eingesetzt haben. Die oben aufgeführten Request-Parameter sind diejenigen, auf die Sie sich verlassen sollten: max_tokens, seed, response_format, structured_outputs, tools, tool_choice, reasoning und include_reasoning. Wenn Sie deterministisches Sampling für Tests benötigen, ist seed verfügbar; wenn Sie maschinenlesbare Ausgabe benötigen, decken structured_outputs und response_format das ab.

Eine Grenze, die es zu beachten gilt, ist der Knowledge Cutoff vom 31. Oktober 2023, sodass alles, was aktuelle Informationen erfordert, aus Ihrem Prompt, hochgeladenen Dateien oder einem Tool Call stammen muss, nicht aus dem eigenen Wissen des Modells. Die Ausgabe ist ausschließlich Text, sodass Bildgenerierung nicht zum Umfang gehört. Wenn Ihre Workload ein einfacher, latenzsensibler Chat ist, der nicht von erweitertem Reasoning profitiert, könnte ein leichteres Modell besser passen.