OpenAI: GPT-3.5 Turbo (older v0613)

GPT-3.5 Turbo (v0613 yang lebih lama) adalah model teks dari OpenAI, didistribusikan dengan model id openai/gpt-3.5-turbo-0613. Model ini termasuk dalam keluarga GPT-3.5 Turbo, yang digambarkan OpenAI sebagai lini model tercepatnya, dan versi khusus ini adalah snapshot lama yang tetap tersedia untuk beban kerja yang bergantung pada perilaku spesifiknya. Data pelatihannya mencakup hingga September 2021, sehingga model ini tidak memiliki pengetahuan tentang peristiwa setelah titik itu kecuali Anda menyediakan informasinya sendiri di dalam prompt.

Model ini menerima teks sebagai input dan mengembalikan teks sebagai output, menjadikannya model bahasa serbaguna untuk chat dan tugas completion tradisional. Model ini dapat memahami dan menghasilkan bahasa alami serta kode. Jendela konteksnya adalah 4.095 token, dan output maksimumnya adalah 3.685 token, sehingga prompt dan balasan berbagi anggaran yang cukup ketat dibandingkan model modern yang lebih besar. Tidak ada input gambar, audio, atau file di sini; semua yang Anda kirim harus berupa teks.

Karena menangani prosa dan kode, model ini cocok untuk berbagai tugas sehari-hari: asisten chat dan antarmuka percakapan, penyusunan dan penulisan ulang teks, peringkasan dokumen pendek, klasifikasi dan ekstraksi pada input kecil, serta pembuatan atau penjelasan kode ringan. Dukungannya untuk tools dan structured outputs juga membuatnya dapat digunakan untuk function calling sederhana dan untuk menghasilkan respons dalam format yang ditentukan, yang membantu ketika Anda membutuhkan output yang dapat dibaca mesin daripada teks bebas. Jendela 4.095 token berarti model ini cocok untuk prompt dan jawaban yang muat dengan nyaman dalam beberapa halaman teks, bukan analisis dokumen panjang.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 dengan meneruskan model id openai/gpt-3.5-turbo-0613 dalam permintaan Anda, sehingga SDK dan pustaka klien OpenAI yang ada berfungsi hanya dengan perubahan base URL dan key. Parameter permintaan yang didukung adalah frequency_penalty, logit_bias, logprobs, max_completion_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs dan top_p. Itu mencakup kontrol sampling, determinisme melalui seed, inspeksi tingkat token melalui logprobs dan top_logprobs, serta output yang digerakkan oleh tool atau skema melalui tools, tool_choice, response_format dan structured_outputs.

Kendala utama yang perlu direncanakan adalah panjang konteks. Pada 4.095 token dengan batas output 3.685 token, percakapan panjang, basis kode besar, atau prompt multi dokumen akan memerlukan chunking, retrieval, atau pemangkasan, dan batas pengetahuan September 2021 berarti informasi terbaru harus berasal dari konteks Anda sendiri. Jika tugas Anda membutuhkan jendela yang jauh lebih besar, pengetahuan yang lebih baru, atau input multimodal, model lain di api14 kemungkinan lebih cocok. Untuk tugas teks dan kode berdurasi pendek dengan volume tinggi yang mengutamakan kecepatan, model ini tetap menjadi pilihan yang wajar.