Amazon: Nova Pro 1.0

O Amazon Nova Pro 1.0 é um modelo de geração de texto da Amazon, listado no api14 sob o id de modelo amazon/nova-pro-v1. Ele está na categoria de texto e é descrito pela Amazon como um modelo multimodal capaz, construído para combinar precisão, velocidade e custo em uma ampla variedade de tarefas. Foi lançado pelo provedor em 5 de dezembro de 2024, e seu corte de conhecimento é 31 de outubro de 2024, então qualquer coisa que aconteceu depois dessa data está fora do que o modelo foi treinado.

No lado da entrada, o Nova Pro 1.0 aceita texto e imagens, o que o torna multimodal em vez de apenas texto. A saída é texto. A janela de contexto é de 300.000 tokens, o que é grande o suficiente para armazenar documentos longos, históricos de conversa extensos ou uma mistura de texto e imagens em uma única requisição. A saída máxima é de 5.120 tokens, então as respostas são limitadas bem abaixo da capacidade de entrada. Se sua tarefa depende de produzir respostas únicas muito longas, esse teto de saída é o número a ter em mente.

Essas capacidades apontam para um conjunto bastante amplo de usos práticos. Como ele lê imagens além de texto, ele se adequa a tarefas como descrever ou raciocinar sobre capturas de tela, diagramas, fotos e páginas digitalizadas junto com instruções escritas. O contexto de 300.000 tokens é adequado para análise de documentos longos, sumarização de arquivos grandes e conversas de múltiplos turnos onde o contexto anterior precisa permanecer visível. O suporte a ferramentas significa que ele pode ser usado em fluxos de trabalho onde o modelo chama funções ou serviços externos, o que é útil para assistentes e agentes. Geração geral de texto, extração e resposta a perguntas sobre entrada mista de texto e imagem são todos usos razoáveis.

Você chama o modelo através da API compatível com OpenAI do api14 usando o id de modelo "amazon/nova-pro-v1". Os parâmetros de requisição suportados são max_tokens, stop, temperature, tools, top_k e top_p. Isso cobre os controles usuais de amostragem (temperature, top_p, top_k), comprimento de saída via max_tokens, sequências de parada e chamada de ferramentas ou funções através de tools. Como a interface é compatível com OpenAI, clientes e SDKs existentes que visam o formato de chat da OpenAI geralmente funcionam apenas com a mudança do id de modelo e da URL base.

Dois limites vale a pena ponderar antes de se comprometer. A saída máxima de 5.120 tokens é modesta em relação à janela de entrada de 300.000 tokens, então cargas de trabalho que precisam de respostas geradas muito longas podem ser limitadas. O corte de conhecimento de 31 de outubro de 2024 também significa que o modelo não tem conhecimento incorporado de eventos posteriores, então tarefas que dependem de informações recentes precisam de recuperação ou ferramentas em vez do próprio conhecimento do modelo. Se seu trabalho é apenas texto e não se beneficia de entrada de imagem, um modelo apenas de texto pode ser uma escolha mais simples, mas para tarefas mistas de texto e imagem com contexto longo, o Nova Pro 1.0 cobre o terreno descrito aqui.