Mistral Large 2407

O Mistral Large 2407 é um modelo de geração de texto da Mistral, identificado na api14 como mistralai/mistral-large-2407. É o modelo principal da Mistral, o Mistral Large 2, na sua versão 2407, e a Mistral descreve-o como um modelo proprietário com pesos disponíveis. Foi lançado pelo fornecedor em 2024-11-19 e tem um limite de conhecimento de 2024-03-31.

O modelo aceita entradas de texto e ficheiros e devolve texto. Tem uma janela de contexto de 131072 tokens e uma saída máxima de 104857 tokens, pelo que entradas longas e gerações longas são ambas possíveis no mesmo pedido. A Mistral posiciona-o como forte em raciocínio, código, JSON e conversação. Os parâmetros de pedido suportados incluem temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tools e tool_choice.

Como lida bem com raciocínio, código e JSON, adequa-se a tarefas como análise em várias etapas, geração e revisão de código, e assistentes de conversação que precisam de manter uma conversa longa ou um documento grande em contexto. A modalidade de entrada de ficheiros torna-o utilizável em fluxos de trabalho em que um documento é fornecido juntamente com uma pergunta, e os parâmetros de saída estruturada e de chamada de ferramentas tornam-no uma escolha razoável para pipelines que precisam de respostas legíveis por máquina ou que ligam o modelo a funções externas. O limite elevado de saída ajuda quando a resposta em si é longa, por exemplo um ficheiro completo, um relatório detalhado ou uma explicação extensa.

Pode chamá-lo através da API compatível com OpenAI da api14 usando o id de modelo "mistralai/mistral-large-2407". Os pedidos seguem o formato de chat completions da OpenAI, pelo que envia mensagens e define parâmetros nos campos habituais. O modelo suporta frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools e top_p. Use response_format ou structured_outputs quando precisar de JSON, e tools com tool_choice quando quiser que o modelo chame funções que define. O parâmetro seed permite tornar a amostragem mais reprodutível, e stop permite cortar a geração numa sequência escolhida.

Tenha em conta o limite de conhecimento de 2024-03-31: o modelo não saberá de eventos ou alterações de bibliotecas posteriores a essa data, pelo que para informação recente deve fornecê-la no prompt ou através de um ficheiro. Se a sua tarefa não for baseada em texto, este modelo não servirá, pois só aceita entradas de texto e ficheiros e só produz texto. Dentro desses limites, é uma escolha geral para trabalho de raciocínio, código e JSON, e a lista de parâmetros dá-lhe controlo suficiente sobre a amostragem, a forma da saída e o uso de ferramentas para o integrar em código existente compatível com OpenAI com poucas alterações.