Anthropic: Claude Sonnet 5 (batch)

Claude Sonnet 5 (batch) adalah model teks dari Anthropic, yang ditawarkan di api14 dengan model id anthropic/claude-sonnet-5:batch. Anthropic mendeskripsikan Sonnet 5 sebagai model kelas Sonnet paling mampu miliknya, dengan performa terdepan di bidang coding, agen, dan pekerjaan profesional. Varian batch adalah model yang sama yang dilayani melalui mode pemrosesan batch, bukan mode interaktif, sehingga cocok untuk beban kerja di mana Anda mengirim banyak permintaan dan mengumpulkan hasilnya, bukan menunggu setiap panggilan dalam sesi langsung.

Model ini menerima teks, gambar, dan file sebagai input, dan menghasilkan teks sebagai output. Jendela konteksnya adalah 1.000.000 token, dan output maksimumnya adalah 128.000 token. Sonnet 5 mendukung adaptive thinking dengan tingkat reasoning effort yang dapat dipilih, termasuk low, medium, high, dan max. Kombinasi konteks yang sangat besar dan anggaran output yang besar berarti Anda dapat memberinya dokumen panjang, input campuran teks dan gambar, atau seluruh kumpulan file dalam satu permintaan dan tetap mendapatkan respons yang substansial.

Kemampuan tersebut mengarah pada beberapa pola praktis. Pekerjaan berkonteks besar seperti meninjau basis kode yang panjang, meringkas atau mengekstrak dari laporan yang panjang, dan menjawab pertanyaan di banyak dokumen cocok secara alami, terutama ketika dokumen tersebut datang sebagai file atau gambar hasil pemindaian. Tugas coding dan bergaya agen mengikuti kekuatan yang dinyatakan model ini, dan dukungan tool serta structured output membuatnya dapat digunakan sebagai langkah penalaran dalam pipeline yang memanggil sistem lain. Karena reasoning effort dapat dipilih, Anda dapat menurunkannya untuk ekstraksi yang sederhana dan menaikkannya untuk masalah yang membutuhkan pertimbangan lebih, dan mode batch cocok untuk pekerjaan yang berjalan sesuai jadwal atau melalui antrean, bukan di jendela chat.

Untuk memanggilnya melalui api14, gunakan antarmuka chat completions yang kompatibel dengan OpenAI dengan model id anthropic/claude-sonnet-5:batch. Permintaan mendukung include_reasoning, max_tokens, reasoning, reasoning_effort, response_format, stop, structured_outputs, tool_choice, tools, dan verbosity. Dalam praktiknya, itu berarti Anda dapat membatasi panjang output dengan max_tokens, mengontrol seberapa banyak model berpikir dengan reasoning_effort, meminta output yang dapat dibaca mesin melalui response_format atau structured_outputs, dan mendefinisikan fungsi yang dapat dipanggil dengan tools dan tool_choice. Parameter include_reasoning dan verbosity memungkinkan Anda memutuskan seberapa banyak penalaran internal model dan seberapa banyak detail yang ingin ditampilkan dalam respons.

Satu hal yang perlu dipertimbangkan adalah mode batch itu sendiri. Mode ini dirancang untuk pengiriman asinkron bervolume tinggi, jadi jika Anda membutuhkan balasan sinkron di dalam aplikasi interaktif, deployment non-batch dari model yang sama akan menjadi pilihan yang lebih alami. Model ini hanya menghasilkan teks, sehingga tugas yang memerlukan pembuatan gambar atau audio berada di luar cakupannya. Namun, dalam pekerjaan teks, konteks 1.000.000 token dan batas output 128.000 token mencakup sebagian besar kasus dokumen panjang dan generasi panjang tanpa perlu memotong input menjadi beberapa bagian.