Mistral: Mistral Nemo

Mistral Nemo es un modelo de texto de Mistral, creado en colaboración con NVIDIA. Es un modelo de 12B parámetros, y su fecha de lanzamiento por el proveedor fue el 19 de julio de 2024. El modelo es multilingüe, con soporte para inglés, francés, alemán, español, italiano, portugués, chino, japonés y otros idiomas. Si estás eligiendo un modelo para un proyecto, este se sitúa en el nivel más pequeño y eficiente de la línea de Mistral en lugar de los modelos insignia más grandes.

El modelo toma texto como entrada y devuelve texto como salida, por lo que es un modelo de lenguaje sencillo sin manejo de imágenes ni audio. Su ventana de contexto es de 131072 tokens, lo cual es suficientemente grande para contener documentos largos, conversaciones extendidas o archivos de código considerables en una sola solicitud. La salida máxima es de 16384 tokens, por lo que las respuestas pueden ser largas pero están limitadas muy por debajo del límite de entrada. Su fecha de corte de conocimiento es el 30 de abril de 2024, lo cual importa si tu tarea depende de eventos o información posteriores a esa fecha.

Esas capacidades apuntan a algunos usos prácticos. El contexto largo es adecuado para resumir o extraer información de informes extensos, contratos y transcripciones, y el soporte multilingüe ayuda con la traducción y con aplicaciones que atienden a usuarios en varios idiomas. Debido a que el modelo solo acepta y devuelve texto, encaja en asistentes de chat, respuesta a preguntas sobre documentos proporcionados, redacción y reescritura, clasificación y otras tareas de transformación de texto. El límite de salida de 16384 tokens significa que los documentos generados muy largos pueden necesitar producirse en varias pasadas.

Puedes llamar al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "mistralai/mistral-nemo". Los parámetros de solicitud admitidos son frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs y top_p. Ese conjunto cubre controles de muestreo, semillas deterministas, secuencias de parada, salidas estructuradas y llamada a herramientas, por lo que puedes moldear tanto el estilo de la salida como su formato sin salir de la interfaz estándar.

Vale la pena tener en cuenta algunos límites. La entrada y la salida son solo texto, por lo que las tareas que requieren analizar imágenes o audio necesitan un modelo diferente. La fecha de corte de conocimiento del 30 de abril de 2024 significa que el modelo no tiene conocimiento incorporado de eventos posteriores, y el límite de salida de 16384 tokens restringe la longitud de una sola respuesta. Si tu carga de trabajo depende de alguno de estos aspectos, otro modelo podría encajar mejor.