Amazon: Nova Pro 1.0

Amazon Nova Pro 1.0 adalah model pembuatan teks dari Amazon, terdaftar di api14 dengan model id amazon/nova-pro-v1. Model ini berada dalam kategori teks dan digambarkan oleh Amazon sebagai model multimodal yang mumpuni, dibangun untuk menggabungkan akurasi, kecepatan, dan biaya di berbagai tugas. Model ini dirilis oleh penyedia pada 5 Desember 2024, dan batas pengetahuan (knowledge cutoff) nya adalah 31 Oktober 2024, jadi apa pun yang terjadi setelah tanggal itu berada di luar cakupan data pelatihannya.

Pada sisi input, Nova Pro 1.0 menerima teks dan gambar, sehingga bersifat multimodal dan bukan hanya teks. Outputnya berupa teks. Context window nya adalah 300.000 token, cukup besar untuk menampung dokumen panjang, riwayat percakapan yang panjang, atau campuran teks dan gambar dalam satu permintaan. Output maksimumnya adalah 5.120 token, jadi panjang respons dibatasi jauh di bawah kapasitas input. Jika tugas Anda bergantung pada menghasilkan respons tunggal yang sangat panjang, batas output itu adalah angka yang perlu diingat.

Kemampuan tersebut mengarah pada beragam penggunaan praktis. Karena model ini membaca gambar sekaligus teks, ia cocok untuk tugas seperti mendeskripsikan atau menalar tentang screenshot, diagram, foto, dan halaman hasil pindaian bersama instruksi tertulis. Context 300.000 token cocok untuk analisis dokumen panjang, peringkasan file besar, dan percakapan multi turn di mana konteks sebelumnya perlu tetap terlihat. Dukungan tools berarti model ini dapat dipakai dalam alur kerja di mana model memanggil fungsi atau layanan eksternal, yang berguna untuk asisten dan agen. Pembuatan teks umum, ekstraksi, dan tanya jawab atas input campuran teks dan gambar semuanya termasuk penggunaan yang wajar.

Anda memanggil model ini melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "amazon/nova-pro-v1". Parameter permintaan yang didukung adalah max_tokens, stop, temperature, tools, top_k, dan top_p. Itu mencakup kontrol sampling yang biasa (temperature, top_p, top_k), panjang output melalui max_tokens, stop sequence, serta pemanggilan tool atau function melalui tools. Karena antarmukanya kompatibel dengan OpenAI, klien dan SDK yang sudah ada yang menargetkan format chat OpenAI umumnya berfungsi hanya dengan mengubah model id dan base URL.

Ada dua batasan yang perlu dipertimbangkan sebelum Anda memutuskan. Output maksimum 5.120 token tergolong moderat dibandingkan jendela input 300.000 token, jadi beban kerja yang membutuhkan jawaban hasil generasi yang sangat panjang mungkin terbatas. Batas pengetahuan 31 Oktober 2024 juga berarti model ini tidak memiliki pengetahuan bawaan tentang peristiwa setelahnya, jadi tugas yang bergantung pada informasi terbaru memerlukan retrieval atau tools, bukan mengandalkan pengetahuan model itu sendiri. Jika pekerjaan Anda hanya berbasis teks dan tidak mendapat manfaat dari input gambar, model khusus teks mungkin lebih sederhana, tetapi untuk tugas campuran teks dan gambar dengan konteks panjang, Nova Pro 1.0 mencakup hal-hal yang dijelaskan di sini.