OpenAI: GPT-3.5 Turbo (batch)

OpenAI: GPT-3.5 Turbo (batch) adalah model teks dari OpenAI, yang ditawarkan melalui api14 dengan model id openai/gpt-3.5-turbo:batch. Model ini termasuk dalam keluarga GPT-3.5 Turbo, yang digambarkan OpenAI sebagai model tercepatnya. Tanggal rilis penyedia adalah 2023-05-28, dan data pelatihannya mencakup hingga September 2021, sehingga pengetahuan bawaan model berhenti pada titik itu.

Model ini bekerja dengan input teks dan menghasilkan output teks. Model ini memahami dan menghasilkan bahasa alami atau kode, dan dioptimalkan untuk tugas chat serta completion tradisional. Jendela konteksnya adalah 16.385 token, dan output maksimumnya adalah 4.096 token. Karena menangani prosa maupun kode, model ini cocok untuk beban kerja yang mencampur giliran percakapan dengan pembuatan teks terstruktur.

Penggunaan praktisnya mengikuti langsung dari sifat-sifat tersebut. Asisten chat, antarmuka percakapan dan dialog multi-giliran sangat cocok mengingat optimasi chat-nya. Tugas completion tradisional, seperti menyusun draf, meringkas atau menulis ulang teks, juga bisa dilakukan. Karena model ini dapat menghasilkan kode, model ini juga dapat membantu prompt yang berorientasi kode. Konteks 16.385 token memberi ruang untuk percakapan yang lebih panjang atau prompt yang lebih besar, sementara batas output 4.096 token cocok untuk respons yang tidak perlu sangat panjang.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id openai/gpt-3.5-turbo:batch. Parameter permintaan yang didukungnya adalah frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs dan top_p. Kumpulan itu mencakup kontrol sampling, batas token, urutan stop, seeding deterministik, output terstruktur dan pemanggilan tool atau function, sehingga Anda dapat membentuk respons teks biasa maupun alur yang digerakkan tool tanpa meninggalkan antarmuka standar.

Ingatlah batas pengetahuan tersebut: apa pun setelah September 2021 berada di luar data pelatihan model, sehingga pertanyaan yang sensitif terhadap waktu mungkin memerlukan pengambilan informasi atau konteks yang disediakan melalui prompt. Batas output 4.096 token juga penting untuk tugas yang memerlukan satu respons panjang. Untuk situasi tersebut, atau ketika suatu tugas bergantung pada informasi yang lebih baru, model lain mungkin lebih cocok.