OpenAI: GPT-4

GPT-4 adalah model teks dari OpenAI, terdaftar di api14 dengan model id openai/gpt-4. Model ini berada di kategori teks dan dideskripsikan oleh penyedia sebagai model bahasa berskala besar andalan OpenAI, dibangun untuk menyelesaikan masalah sulit dengan akurasi lebih tinggi daripada model sebelumnya melalui pengetahuan umum yang lebih luas dan penalaran tingkat lanjut. Tanggal rilis penyedia adalah 2023-05-28, dan knowledge cutoff model adalah 2021-09-30.

Di api14 model ini menerima input teks dan mengembalikan output teks. Model ini memiliki panjang konteks 8191 token dan output maksimum 4096 token. Parameter permintaan yang didukung meliputi temperature, top_p, frequency_penalty, presence_penalty, stop, seed, logit_bias, logprobs, top_logprobs, max_tokens, max_completion_tokens, response_format, structured_outputs, tools dan tool_choice. Kombinasi itu mencakup kontrol sampling, perilaku yang cukup deterministik melalui seed, inspeksi tingkat token melalui logprobs, dan pemanggilan fungsi melalui parameter tools.

Penggunaan praktisnya mengikuti kemampuan tersebut. Penalaran umum dan tanya jawab yang berat pengetahuan cocok dengan kekuatan yang dinyatakan model ini. Prompt yang lebih panjang masih bisa dikerjakan dalam konteks 8191 token, jadi peringkasan dokumen, penyusunan draf multi-paragraf, ekstraksi dan penulisan ulang adalah tugas yang wajar, selama input ditambah output yang diminta tetap berada di dalam jendela konteks. Karena tools dan tool_choice didukung, model ini dapat digunakan sebagai langkah penalaran dalam agen atau alur kerja yang memanggil fungsi eksternal. Structured outputs dan response_format membantu ketika Anda membutuhkan hasil yang dapat dibaca mesin alih-alih prosa bebas, dan logprobs atau top_logprobs berguna ketika Anda ingin memeriksa seberapa yakin model pada setiap token, misalnya dalam pipeline klasifikasi atau evaluasi.

Memanggilnya melalui api14 bekerja sama seperti endpoint lain yang kompatibel dengan OpenAI. Kirim permintaan chat completions ke gateway dengan field model diatur ke openai/gpt-4, dan lewatkan parameter pilihan Anda di body permintaan. Karena API ini kompatibel dengan OpenAI, pustaka klien dan kode OpenAI yang ada biasanya dapat diarahkan ke api14 hanya dengan mengubah base URL dan API key, tanpa perubahan lain pada bentuk permintaan. Anda dapat mengatur temperature dan top_p untuk sampling, max_tokens atau max_completion_tokens untuk membatasi respons, stop sequences untuk mengakhiri generasi lebih awal, dan seed ketika Anda menginginkan output yang lebih dapat diulang. Untuk penggunaan tool, sediakan tools dan opsional tool_choice; untuk hasil terstruktur, gunakan response_format atau structured_outputs.

Beberapa batasan perlu diingat. Jendela konteks 8191 token tergolong sedang menurut standar saat ini, jadi dokumen yang sangat panjang atau percakapan multi-turn yang panjang mungkin perlu dipotong atau dipangkas. Knowledge cutoff 2021-09-30 berarti model ini tidak memiliki pengetahuan tentang peristiwa setelah tanggal itu, jadi apa pun yang bersifat sensitif waktu harus disediakan dalam prompt atau diambil melalui tools. Input hanya teks, jadi gambar dan audio di luar cakupan di sini. Jika tugas Anda bergantung pada konteks yang jauh lebih besar, pengetahuan yang lebih baru, atau input non-teks, model lain di api14 kemungkinan lebih cocok.