OpenAI: GPT-4o-mini (2024-07-18)

GPT-4o-mini (2024-07-18) adalah model generasi teks dari OpenAI, dirilis pada 18 Juli 2024. Model ini berada dalam lini model kecil OpenAI, diposisikan oleh penyedia sebagai model kecil paling canggih dan penerus GPT-4 Omni di tier tersebut. Id model berversi ini mematok snapshot ke 2024-07-18, sehingga perilakunya tetap konsisten di setiap panggilan alih-alih berubah mengikuti alias yang mengambang.

Model ini menerima teks, gambar, dan file sebagai input dan hanya mengembalikan teks. Model ini memiliki context window 128.000 token dan dapat menghasilkan hingga 16.384 output token dalam satu respons. Knowledge cutoff-nya adalah 31 Oktober 2023, jadi apa pun setelah tanggal itu harus berasal dari prompt, dari file yang Anda berikan, atau dari alat pencarian. Karena input gambar didukung, Anda dapat mengirimkan screenshot, halaman hasil pindai, atau diagram bersama instruksi teks dan mendapatkan jawaban teks kembali.

Kemampuan tersebut cocok untuk berbagai tugas developer sehari-hari. Input dokumen dan file berfungsi baik untuk peringkasan, ekstraksi, dan tanya jawab atas kontrak, laporan, atau PDF, sementara input gambar mencakup pembacaan grafik, struk, screenshot UI, dan teks yang difoto. Konteks 128k memungkinkan Anda mengirim transkrip panjang, basis kode, atau kumpulan multi-dokumen tanpa memecahnya terlebih dahulu. Tool calling dan structured outputs menjadikannya pilihan yang wajar untuk agen, perutean fungsi, dan pipeline yang membutuhkan JSON sesuai skema, dan parameter seed, temperature, serta penalty memberi Anda kendali atas seberapa deterministik atau bervariasi outputnya.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan id model "openai/gpt-4o-mini-2024-07-18". Karena antarmukanya mengikuti bentuk chat completions OpenAI, SDK dan klien OpenAI yang ada tetap berfungsi hanya dengan mengubah base URL. Parameter permintaan yang didukungnya adalah frequency_penalty, logit_bias, logprobs, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p, dan web_search_options. Itu mencakup kontrol sampling, batas token, stop sequence, inspeksi log probability, output JSON dan yang dibatasi skema, definisi tool dan pemilihan tool yang dipaksakan, serta opsi pencarian web.

Ada dua batasan yang perlu diperhatikan sebelum Anda memutuskan. Outputnya hanya teks, jadi jika Anda membutuhkan gambar, audio, atau embedding yang dihasilkan, model ini bukan pilihan yang tepat. Knowledge cutoff 31 Oktober 2023 berarti pertanyaan yang sensitif terhadap waktu memerlukan retrieval, input file, atau opsi pencarian web alih-alih mengandalkan pengetahuan model itu sendiri. Dan batas output 16.384 token membatasi seberapa panjang satu respons bisa dibuat, yang penting untuk tugas generasi teks panjang.