DeepSeek: DeepSeek V3

DeepSeek V3 adalah model generasi teks dari DeepSeek, terdaftar di api14 dengan model id deepseek/deepseek-chat. Ini adalah model terbaru dari tim DeepSeek, yang dibangun di atas kemampuan mengikuti instruksi dan coding dari versi sebelumnya dalam keluarga ini. Provider merilisnya pada 2024-12-26, dan model ini telah dilatih sebelumnya pada hampir 15 triliun token. Batas pengetahuan (knowledge cutoff) nya adalah 2024-07-31, jadi apa pun setelah tanggal itu berada di luar apa yang dipelajari model selama pelatihan.

Model ini bekerja hanya dengan teks, baik sebagai input maupun output, sehingga tidak menerima gambar atau audio. Model ini menawarkan context window sebesar 163.840 token, yang cukup besar untuk menampung dokumen panjang, percakapan yang diperpanjang, atau file kode berukuran besar dalam satu permintaan. Output maksimum adalah 16.384 token per respons. Karena ini adalah model teks umum dengan kemampuan mengikuti instruksi dan coding yang kuat, model ini cocok untuk tugas-tugas yang melibatkan pembacaan dan produksi bahasa atau kode, bukan pekerjaan multimodal.

Penggunaan praktis mengikuti langsung dari sifat-sifat tersebut. Konteks panjang ditambah output teks cocok untuk peringkasan dokumen, tanya jawab atas materi sumber yang panjang, dan obrolan multi giliran di mana giliran sebelumnya perlu tetap terlihat. Latar belakang coding membuatnya menjadi pilihan yang wajar untuk generasi kode, penjelasan dan refactoring, serta untuk mengerjakan potongan sumber berukuran repositori dalam satu prompt. Kemampuan mengikuti instruksi mendukung ekstraksi, penulisan ulang, klasifikasi dan tugas teks terstruktur lainnya, dan parameter tool calling membuatnya dapat digunakan sebagai langkah penalaran dalam loop agen yang perlu memanggil fungsi eksternal.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id deepseek/deepseek-chat, sehingga pustaka klien OpenAI yang ada berfungsi hanya dengan mengubah base URL dan key. Parameter permintaan yang didukungnya adalah frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k dan top_p. Dalam praktiknya itu mencakup kontrol sampling (temperature, top_p, top_k, min_p), penalti untuk pengulangan, eksekusi deterministik melalui seed, pembentukan output dengan response_format dan structured_outputs, serta function calling melalui tools dan tool_choice.

Ada dua batasan yang perlu diperhatikan sebelum Anda memutuskan. Input dan output hanya berupa teks, jadi jika tugas Anda membutuhkan pemahaman gambar atau audio, model multimodal adalah pilihan yang lebih baik. Batas pengetahuan 2024-07-31 berarti model tidak memiliki kesadaran bawaan tentang peristiwa setelahnya, jadi untuk pertanyaan yang sensitif terhadap waktu, Anda harus menyediakan informasi terkini dalam prompt atau memasangkannya dengan retrieval.