OpenAI: GPT-4o-mini

GPT-4o-mini adalah model pembuatan teks dari OpenAI, dirilis pada 18 Juli 2024. Model ini berada dalam lini model kecil OpenAI, diposisikan sebagai penerus GPT-4o di tingkat tersebut, dan dibangun untuk pekerjaan teks serbaguna alih-alih satu tugas sempit. Jika Anda memilih model default untuk sebuah aplikasi, inilah jenis model yang dimaksudkan untuk menangani berbagai permintaan sehari-hari.

Model ini menerima teks, gambar, dan file sebagai input, dan hanya mengembalikan teks. Jendela konteksnya adalah 128.000 token, dan output maksimumnya adalah 16.384 token. Batas pengetahuan adalah 31 Oktober 2023, jadi apa pun setelah tanggal itu berada di luar apa yang dipelajari model selama pelatihan. Karena input gambar dan file didukung bersama teks, Anda dapat mengirim konten campuran dalam satu permintaan dan menerima jawaban teks, yang menjaga integrasi tetap sederhana jika aplikasi Anda sudah bekerja dengan prompt teks.

Kemampuan tersebut mengarah pada beberapa penggunaan praktis. Analisis dokumen dan file sangat cocok, karena Anda dapat memberikan file dan meminta ringkasan, ekstraksi, atau tanya jawab atas isinya. Pemahaman gambar mencakup tugas seperti mendeskripsikan tangkapan layar, membaca bagan, atau mengambil detail terstruktur dari sebuah foto. Obrolan umum, penyusunan draf, klasifikasi, penulisan ulang, dan bantuan kode semuanya bekerja hanya dengan teks. Jendela konteks yang besar berarti dokumen panjang atau percakapan multi giliran dapat ditangani tanpa memecahnya menjadi banyak permintaan kecil, dan batas output 16.384 token memberi ruang untuk jawaban yang dihasilkan lebih panjang.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "openai/gpt-4o-mini". Karena antarmukanya mengikuti format OpenAI, SDK dan klien OpenAI yang ada berfungsi hanya dengan perubahan base URL dan key. Model ini mendukung banyak parameter permintaan: frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p dan web_search_options. Pemanggilan tool dan output terstruktur tersedia, sehingga Anda dapat menghubungkan model ini ke alur pemanggilan fungsi atau memaksa respons ke dalam skema. Parameter seed membantu reproduktibilitas, dan web_search_options memungkinkan permintaan memanfaatkan pencarian.

Ada dua batasan yang perlu diperhatikan sebelum Anda memutuskan. Batas pengetahuan 31 Oktober 2023 berarti model ini tidak memiliki kesadaran bawaan tentang peristiwa setelahnya, jadi pertanyaan yang sensitif terhadap waktu memerlukan pengambilan data atau pencarian alih-alih hanya mengandalkan model. Outputnya hanya teks, jadi jika Anda memerlukan gambar atau audio yang dihasilkan, model ini bukan pilihan yang tepat. Dalam batasan tersebut, model ini adalah default yang wajar untuk beban kerja pemahaman teks dan gambar.