OpenAI: GPT-4o (2024-08-06)

GPT-4o (2024-08-06) adalah model generasi teks dari OpenAI, yang diidentifikasi di api14 sebagai openai/gpt-4o-2024-08-06. Ini adalah versi GPT-4o yang dirilis pada 2024-08-06, dan OpenAI memposisikannya sebagai pembaruan yang meningkatkan structured outputs, termasuk kemampuan untuk menyediakan skema JSON di field response_format. Huruf "o" pada nama tersebut adalah singkatan dari "omni", yang mencerminkan model yang dirancang untuk menangani lebih dari sekadar teks biasa.

Model ini menerima teks, gambar dan file sebagai input, dan menghasilkan teks sebagai output. Model ini memiliki context window 128.000 token dan dapat menghasilkan hingga 16.384 output token per permintaan. Knowledge cutoff-nya adalah 2023-10-31, jadi apa pun setelah tanggal itu berada di luar apa yang dipelajarinya selama pelatihan. Karena input dapat mencakup gambar dan file bersama teks, model ini dapat bekerja dengan prompt campuran, bukan hanya teks saja.

Kemampuan tersebut mengarah pada beberapa penggunaan praktis. Structured outputs dengan skema JSON yang disediakan cocok untuk tugas ekstraksi dan penataan data, di mana Anda ingin model mengembalikan field yang dapat Anda parsing secara langsung. Tool calling cocok untuk alur kerja bergaya agen yang perlu memanggil fungsi atau layanan eksternal. Input gambar dan file mendukung tugas seperti membaca screenshot, diagram atau dokumen dan menjawab pertanyaan tentangnya. Context window 128.000 token memungkinkan input panjang, seperti dokumen yang panjang atau percakapan yang diperpanjang, ditangani dalam satu permintaan.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id openai/gpt-4o-2024-08-06. Parameter permintaan yang didukung adalah frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p dan web_search_options. Karena antarmukanya kompatibel dengan OpenAI, kode OpenAI SDK yang ada umumnya berfungsi dengan mengubah base URL dan model id.

Ada beberapa batasan yang perlu diperhatikan saat memilih. Output hanya berupa teks, jadi jika Anda memerlukan gambar atau audio yang dihasilkan, model ini bukan pilihan yang tepat. Knowledge cutoff 2023-10-31 berarti peristiwa terkini tidak tercakup kecuali Anda menyediakan informasinya di prompt atau menggunakan web_search_options. Jika beban kerja Anda kecil dan sederhana, model yang lebih ringan mungkin sudah cukup, sedangkan model ini ditujukan untuk tugas yang memanfaatkan context window, input multimodal dan dukungan structured output-nya.