OpenAI: o1-pro

OpenAI o1-pro adalah model teks dari OpenAI, bagian dari seri o1. OpenAI mendeskripsikan keluarga o1 sebagai model yang dilatih dengan pembelajaran penguatan untuk berpikir sebelum menjawab dan melakukan penalaran kompleks, dan o1-pro adalah varian yang menggunakan lebih banyak komputasi untuk berpikir lebih keras dan memberikan jawabannya. Model ini berada dalam kategori teks dan dirilis oleh penyedia pada 2025-03-19.

Model ini menerima teks, gambar, dan file sebagai input, dan mengembalikan teks. Jendela konteksnya adalah 200.000 token, dan output maksimumnya adalah 100.000 token. Batas pengetahuan adalah 2023-10-31. Karena model ini bernalar sebelum merespons, respons bisa memakan waktu lebih lama dan menghabiskan lebih banyak token dibandingkan model chat standar, yang perlu diingat saat Anda merancang seputar latensi dan anggaran output.

Kombinasi jendela konteks yang besar, input file dan gambar, serta penalaran yang disengaja mengarah pada pekerjaan di mana model perlu mencerna banyak materi sebelum menjawab. Contohnya termasuk menganalisis dokumen panjang atau basis kode yang disediakan sebagai file, mengerjakan masalah multi-langkah di mana penalaran perantara penting, mengekstrak hasil terstruktur dari input campuran teks dan gambar, dan tugas-tugas yang diuntungkan oleh kemampuan model memeriksa masalah dari beberapa sudut sebelum memutuskan jawaban. Konteks 200.000 token membuatnya praktis untuk memberikan materi sumber yang substansial dalam satu permintaan alih-alih memecahnya menjadi beberapa bagian.

Anda memanggil o1-pro melalui api14 menggunakan API yang kompatibel dengan OpenAI dengan id model "openai/o1-pro". Parameter permintaan yang didukung adalah include_reasoning, max_tokens, reasoning, response_format, seed, dan structured_outputs. include_reasoning dan reasoning berkaitan dengan perilaku berpikir model, response_format dan structured_outputs memungkinkan Anda membatasi bentuk teks yang dikembalikan, max_tokens membatasi output, dan seed mendukung pengambilan sampel yang dapat direproduksi jika backend mendukungnya.

Karena penalaran terjadi sebelum jawaban, o1-pro bukan pilihan yang jelas untuk chat sederhana yang sensitif terhadap latensi di mana model teks yang lebih ringan sudah cukup. Batas pengetahuan 2023-10-31 juga berarti model tidak memiliki kesadaran tentang peristiwa setelah tanggal tersebut, jadi apa pun yang sensitif terhadap waktu perlu disediakan dalam prompt atau diambil secara terpisah. Outputnya hanya teks, jadi jika Anda memerlukan gambar atau audio yang dihasilkan, Anda memerlukan model yang berbeda.