Meta: Llama 3.2 1B Instruct

Meta: Llama 3.2 1B Instruct adalah model generasi teks dari Meta, bagian dari keluarga Llama 3.2. Ini adalah model yang disetel dengan instruksi dengan 1 miliar parameter, ukuran yang sengaja dibuat kecil yang diposisikan Meta untuk menjalankan tugas bahasa alami secara efisien. Meta merilisnya pada 25 September 2024, dan batas pengetahuannya adalah 31 Desember 2023, jadi apa pun yang terjadi setelah tanggal itu berada di luar apa yang dipelajari model selama pelatihan.

Model ini hanya bekerja dengan teks, baik pada input maupun output. Model ini menerima prompt dan mengembalikan teks yang dihasilkan, dengan jendela konteks 60.000 token dan output maksimum 54.000 token. Kombinasi itu memberi Anda ruang kerja yang cukup besar untuk model sebesar ini, cukup untuk memuat dokumen panjang atau percakapan panjang ke dalam satu permintaan. Meta menggambarkan fokusnya sebagai peringkasan, dialog dan analisis teks multibahasa, yang mencerminkan jenis tugas yang menjadi sasaran penyetelan instruksi.

Kemampuan tersebut mengarah pada serangkaian penggunaan yang praktis. Peringkasan adalah kecocokan alami: masukkan artikel, laporan atau utas dan minta versi yang lebih pendek. Dialog mencakup asisten bergaya obrolan, menjawab pertanyaan dan alur percakapan sederhana di mana model perlu mengikuti instruksi dan menjaga nada yang konsisten. Analisis teks multibahasa berarti klasifikasi, ekstraksi atau transformasi ringan teks lintas bahasa. Karena model ini kecil, model ini juga cocok untuk pekerjaan bervolume tinggi dengan kompleksitas rendah di mana Anda menginginkan respons cepat pada prompt yang lugas daripada penalaran mendalam.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "meta-llama/llama-3.2-1b-instruct". Karena antarmukanya mengikuti format OpenAI, pustaka klien OpenAI yang ada dan bentuk permintaan yang ada berfungsi hanya dengan mengubah model id dan base URL. Parameter permintaan yang didukungnya adalah frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, temperature, top_k dan top_p. Itu mencakup kontrol sampling yang biasa, ditambah seed untuk output yang dapat direproduksi dan repetition_penalty untuk menahan pengulangan pada generasi yang lebih panjang.

Hal utama yang perlu dipertimbangkan adalah skala. Model dengan 1 miliar parameter dibangun untuk efisiensi, bukan untuk penalaran tersulit atau penulisan panjang yang paling bernuansa. Jika tugas Anda membutuhkan logika bertahap yang kompleks, pengetahuan domain yang mendalam atau pengikutan instruksi yang sangat andal pada prompt yang ambigu, model yang lebih besar di keluarga Llama atau penyedia lain biasanya akan melayani Anda lebih baik. Jika tugas Anda adalah peringkasan, dialog atau penanganan teks multibahasa dalam volume besar, model ini adalah default yang wajar untuk diuji terlebih dahulu.