OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch) adalah model teks dengan bobot terbuka dari OpenAI, dirilis di bawah lisensi Apache 2.0. Ini adalah model dengan 21B parameter yang dibangun di atas arsitektur Mixture-of-Experts (MoE) dengan 3.6B parameter aktif per forward pass. Varian batch dilayani melalui api14 sebagai endpoint text generation, dan model id yang Anda gunakan dalam permintaan adalah openai/gpt-oss-20b:batch.

Model ini menerima input teks dan menghasilkan output teks. Model ini memiliki context window 131072 token dan output maksimum 117964 token, dengan knowledge cutoff 2024-06-30. Karena ini adalah model yang mampu melakukan reasoning, permintaan dapat mengaktifkan output reasoning dan mengontrol seberapa besar reasoning effort yang diterapkan. Model ini juga mendukung structured outputs dan response formats, yang membuatnya cocok untuk tugas di mana bentuk teks yang dikembalikan itu penting, bukan hanya isinya.

Kemampuan tersebut mengarah pada serangkaian penggunaan praktis yang cukup luas. Penanganan konteks panjang cocok untuk peringkasan dokumen, tinjauan kode multi-file, dan tanya jawab atas materi referensi yang besar. Dukungan reasoning membantu untuk masalah multi-langkah, perencanaan, dan analisis di mana model mendapat manfaat dari mengerjakan langkah-langkah perantara. Tool calling dan structured outputs cocok untuk alur kerja bergaya agen, ekstraksi data ke skema tetap, dan pipeline yang membutuhkan respons yang dapat dibaca mesin. Varian batch ditujukan untuk beban kerja di mana throughput lebih penting daripada interaktivitas langsung, seperti generasi offline, klasifikasi massal, dan pengayaan dataset.

Untuk memanggilnya melalui api14, gunakan antarmuka chat completions yang kompatibel dengan OpenAI dengan model id openai/gpt-oss-20b:batch. Body permintaan menerima frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, dan top_p. Jika Anda sudah menggunakan pustaka klien OpenAI, Anda dapat mengarahkannya ke base URL api14 dan mempertahankan struktur permintaan yang ada, hanya menyesuaikan model id dan parameter apa pun yang ingin Anda tetapkan.

Ingatlah knowledge cutoff: model tidak mengetahui peristiwa setelah 2024-06-30, jadi apa pun yang sensitif terhadap waktu mungkin memerlukan retrieval atau model yang berbeda. Input hanya berupa teks, jadi tugas gambar atau audio berada di luar cakupannya. Jika beban kerja Anda membutuhkan respons interaktif dengan latensi rendah alih-alih pemrosesan batch, deployment non-batch mungkin lebih cocok.