Amazon: Nova Lite 1.0

Amazon Nova Lite 1.0 é um modelo de geração de texto da Amazon, lançado em 5 de dezembro de 2024. Ele faz parte da família de modelos Nova da Amazon e é posicionado como uma opção rápida e de baixo custo para trabalho multimodal. O modelo é identificado em api14 como amazon/nova-lite-v1, e a Amazon é tanto a desenvolvedora quanto a provedora por trás dele.

O modelo aceita entradas de texto e imagem e produz saída de texto. Ele tem uma janela de contexto de 300.000 tokens, o que permite que documentos muito longos, conversas longas ou grandes coleções de imagens e texto sejam tratados em uma única requisição. A saída máxima é de 5.120 tokens, então as respostas são limitadas mesmo quando a entrada é grande. Seu corte de conhecimento é 31 de outubro de 2024, o que significa que ele não tem informações sobre eventos após essa data, a menos que essa informação seja fornecida no prompt. A Amazon descreve o modelo como focado no processamento rápido de entradas de imagem, vídeo e texto para gerar saída de texto, então a velocidade em entradas multimodais é uma parte central de seu design.

Essas capacidades apontam para alguns usos práticos. Como ele lê imagens além de texto, ele é adequado para tarefas como descrever ou resumir conteúdo de imagem, extrair informações de capturas de tela ou documentos digitalizados, e responder perguntas que dependem de uma mistura de imagens e instruções escritas. O contexto de 300.000 tokens o torna viável para relatórios longos, históricos de chat extensos ou lotes de material que não caberiam em uma janela menor. O limite de saída de 5.120 tokens significa que ele é mais adequado para resumos, respostas, classificações e trechos gerados curtos do que para produzir documentos muito longos em uma única chamada. Desenvolvedores construindo assistentes que precisam olhar para uma imagem e responder em texto, ou pipelines que precisam processar grandes volumes de entrada mista rapidamente, são o público natural.

Você chama o modelo através da API compatível com OpenAI do api14 usando o id de modelo amazon/nova-lite-v1. Como a interface segue o formato OpenAI, bibliotecas cliente OpenAI existentes e formatos de requisição geralmente funcionam apenas com o nome do modelo alterado. Os parâmetros de requisição suportados são max_tokens, stop, temperature, tools, top_k e top_p. O parâmetro tools significa que chamada de função ou ferramenta está disponível, então o modelo pode ser usado em configurações estilo agente onde ele decide quando invocar uma função externa. temperature, top_k e top_p dão controle sobre a amostragem, enquanto stop permite definir sequências que encerram a geração e max_tokens limita o comprimento da resposta.

Alguns limites vale a pena pesar antes de você se comprometer. A saída é limitada a 5.120 tokens, então se você precisa de respostas únicas muito longas, um modelo com um limite de saída maior pode se encaixar melhor. O corte de conhecimento de 31 de outubro de 2024 significa que perguntas sobre eventos posteriores precisam do contexto relevante incluído no prompt. O modelo produz apenas texto, então ele não pode gerar imagens. Se sua tarefa é puramente texto e não se beneficia de entrada de imagem ou de um contexto muito grande, um modelo mais simples apenas de texto pode ser suficiente.