OpenAI: o3 (batch)

OpenAI o3 (batch) adalah model teks dari OpenAI, yang ditawarkan di sini dengan model id openai/o3:batch. Model ini termasuk dalam keluarga o3, yang digambarkan OpenAI sebagai model yang serba bisa dan kuat di berbagai domain, menetapkan standar baru untuk tugas matematika, sains, coding dan penalaran visual, serta juga berkinerja baik pada penulisan teknis dan mengikuti instruksi. Varian batch adalah model dasar yang sama yang disajikan melalui endpoint bergaya batch di api14, yang membuatnya cocok untuk beban kerja di mana Anda dapat mengirimkan pekerjaan dan mengumpulkan hasil alih-alih membutuhkan setiap respons secara inline.

Model ini menerima input gambar, teks dan file serta mengembalikan teks. Jendela konteksnya adalah 200.000 token, dan output maksimum adalah 100.000 token, sehingga input panjang dan generasi panjang keduanya dimungkinkan dalam permintaan yang sama. Batas pengetahuan adalah 2024-06-30, yang penting ketika tugas Anda bergantung pada peristiwa terkini atau materi yang baru diterbitkan. Karena model ini menerima gambar dan file bersama teks, model ini dapat bekerja pada input campuran seperti dokumen plus pertanyaan, atau tangkapan layar plus instruksi, tanpa model prapemrosesan terpisah.

Kemampuan tersebut mengarah pada serangkaian penggunaan praktis yang cukup luas. Pekerjaan yang berat penalaran seperti matematika multi langkah, pemecahan masalah ilmiah dan pembuatan atau debugging kode adalah cocok secara alami, dan begitu juga penalaran visual atas diagram, grafik atau tangkapan layar. Penulisan teknis dan mengikuti instruksi membuatnya dapat digunakan untuk dokumentasi terstruktur, penyusunan spesifikasi dan tugas di mana Anda perlu model mempertahankan format. Konteks 200.000 token membantu untuk laporan panjang, file sumber besar atau input multi dokumen, dan batas output 100.000 token mendukung generasi bentuk panjang dalam satu panggilan.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id openai/o3:batch. Parameter permintaan yang didukung adalah include_reasoning, max_tokens, reasoning, response_format, seed, structured_outputs, tool_choice dan tools. Dalam praktiknya itu berarti Anda dapat mengontrol perilaku penalaran dan apakah penalaran ditampilkan, membatasi panjang output dengan max_tokens, meminta output terstruktur atau bergaya JSON melalui response_format dan structured_outputs, membuat eksekusi dapat direproduksi dengan seed, dan mendefinisikan pemanggilan fungsi dengan tools dan tool_choice.

Satu batasan yang perlu diperhatikan adalah batas pengetahuan 2024-06-30, jadi jika aplikasi Anda membutuhkan informasi terkini Anda perlu menyediakannya di prompt atau melalui tools. Jika tugas Anda murni teks dan tidak mendapat manfaat dari penalaran, input gambar atau file, model teks yang lebih ringan mungkin lebih cocok.