Mistral Large 2407

Mistral Large 2407 adalah model generasi teks dari Mistral, yang diidentifikasi pada api14 sebagai mistralai/mistral-large-2407. Ini adalah model unggulan Mistral, Mistral Large 2, dalam versi 2407, dan Mistral menggambarkannya sebagai model proprietary weights-available. Model ini dirilis oleh penyedia pada 2024-11-19 dan memiliki knowledge cutoff 2024-03-31.

Model ini menerima input teks dan file serta mengembalikan teks. Model ini memiliki context window 131072 token dan output maksimum 104857 token, sehingga input panjang dan generasi panjang keduanya dapat dilakukan dalam permintaan yang sama. Mistral memposisikannya sebagai kuat dalam reasoning, code, JSON dan chat. Parameter permintaan yang didukung meliputi temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tools dan tool_choice.

Karena model ini menangani reasoning, code dan JSON dengan baik, model ini cocok untuk tugas seperti analisis multi-langkah, generasi dan review code, serta asisten chat yang perlu mempertahankan percakapan panjang atau dokumen besar dalam konteks. Modalitas input file membuatnya dapat digunakan untuk alur kerja di mana dokumen disertakan bersama pertanyaan, dan parameter structured output serta tool calling membuatnya cukup cocok untuk pipeline yang membutuhkan respons machine-readable atau yang menghubungkan model ke fungsi eksternal. Batas output yang besar membantu ketika jawabannya sendiri panjang, misalnya file lengkap, laporan terperinci atau penjelasan panjang.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "mistralai/mistral-large-2407". Permintaan mengikuti bentuk chat completions OpenAI, jadi Anda mengirim messages dan mengatur parameter di field yang biasa. Model ini mendukung frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools dan top_p. Gunakan response_format atau structured_outputs ketika Anda membutuhkan JSON, dan tools dengan tool_choice ketika Anda ingin model memanggil fungsi yang Anda tentukan. Parameter seed memungkinkan Anda membuat sampling lebih reproducible, dan stop memungkinkan Anda menghentikan generasi pada urutan yang dipilih.

Ingatlah knowledge cutoff 2024-03-31: model tidak akan mengetahui peristiwa atau perubahan library setelah tanggal tersebut, jadi untuk informasi terbaru Anda harus menyediakannya di prompt atau melalui file. Jika tugas Anda tidak berbasis teks, model ini tidak cocok, karena model ini hanya menerima input teks dan file serta hanya menghasilkan teks. Dalam batasan tersebut, model ini adalah pilihan umum untuk pekerjaan reasoning, code dan JSON, dan daftar parameter memberi Anda cukup kontrol atas sampling, bentuk output dan penggunaan tool untuk mengintegrasikannya ke dalam kode yang kompatibel dengan OpenAI yang sudah ada dengan sedikit perubahan.