OpenAI: GPT-4o (2024-05-13)

GPT-4o (2024-05-13) adalah model teks dari OpenAI. Huruf "o" berarti "omni", dan rilis ini bertanggal 13 Mei 2024. Model ini dibangun untuk menerima input teks dan gambar sekaligus mengembalikan output teks, dan OpenAI menggambarkannya sebagai model yang mempertahankan tingkat kecerdasan GPT-4 Turbo namun lebih cepat. Jika Anda memilih model OpenAI serbaguna untuk integrasi baru, ini adalah versi yang diidentifikasi dengan model id openai/gpt-4o-2024-05-13.

Pada input, model ini menerima teks, gambar, dan file, serta hanya menghasilkan teks. Context window-nya 128.000 token, sehingga dokumen panjang, file kode besar, atau percakapan panjang dapat diberikan dalam satu permintaan. Output maksimumnya 4.096 token, yang penting ketika Anda merencanakan generasi panjang, karena balasan akan terpotong pada titik itu terlepas dari berapa banyak ruang yang tersisa di context. Knowledge cutoff-nya adalah 31 Oktober 2023, sehingga apa pun setelah tanggal itu harus berasal dari prompt, dari tools, atau dari pencarian web, bukan dari pelatihan model itu sendiri.

Kemampuan tersebut mengarah pada beberapa penggunaan praktis. Karena model ini membaca gambar sekaligus teks, ia cocok untuk tugas seperti mengekstrak data terstruktur dari screenshot, halaman hasil pindai, atau diagram, mendeskripsikan konten visual, atau menjawab pertanyaan tentang grafik bersama dengan brief tertulis. Context window yang besar membuatnya layak untuk tanya jawab dokumen, meringkas laporan panjang, dan meninjau basis kode yang cukup besar dalam satu proses. Dukungan untuk tools dan structured outputs membuatnya menjadi pilihan yang wajar untuk alur kerja bergaya agent dan untuk pipeline di mana model harus mengembalikan JSON yang diparsing oleh layanan lain.

Melalui api14 Anda memanggilnya dengan model id openai/gpt-4o-2024-05-13 menggunakan API yang kompatibel dengan OpenAI, sehingga SDK dan klien OpenAI yang ada dapat bekerja dengan mengubah base URL dan key. Parameter permintaan yang didukung adalah frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p dan web_search_options. Tools dan tool_choice mencakup function calling, response_format dan structured_outputs mencakup bentuk output yang dibatasi, dan seed mendukung sampling yang lebih reprodusibel.

Ada dua batasan yang perlu diperhitungkan. Batas output 4.096 token tergolong moderat untuk penulisan panjang, sehingga tugas yang membutuhkan satu respons sangat panjang mungkin lebih cocok dengan model lain, dan knowledge cutoff Oktober 2023 berarti pertanyaan yang sensitif terhadap waktu harus ditangani dengan tools atau pencarian web daripada mengandalkan memori model.