Amazon: Nova Lite 1.0

Amazon Nova Lite 1.0 es un modelo de generación de texto de Amazon, lanzado el 5 de diciembre de 2024. Se encuentra dentro de la familia de modelos Nova de Amazon y está posicionado como una opción rápida y de bajo costo para trabajo multimodal. El modelo se identifica en api14 como amazon/nova-lite-v1, y Amazon es tanto el desarrollador como el proveedor detrás de él.

El modelo acepta entradas de texto e imagen y produce salida de texto. Tiene una ventana de contexto de 300.000 tokens, lo que permite manejar documentos muy largos, conversaciones extensas o grandes colecciones de imágenes y texto en una sola solicitud. La salida máxima es de 5.120 tokens, por lo que las respuestas están acotadas incluso cuando la entrada es grande. Su fecha de corte de conocimiento es el 31 de octubre de 2024, lo que significa que no tiene información sobre eventos posteriores a esa fecha a menos que esa información se proporcione en el prompt. Amazon describe el modelo como enfocado en el procesamiento rápido de entradas de imagen, video y texto para generar salida de texto, por lo que la velocidad en entradas multimodales es una parte central de su diseño.

Esas capacidades apuntan a algunos usos prácticos. Como lee imágenes además de texto, se adapta a tareas como describir o resumir el contenido de una imagen, extraer información de capturas de pantalla o documentos escaneados, y responder preguntas que dependen de una mezcla de imágenes e instrucciones escritas. El contexto de 300.000 tokens lo hace viable para informes largos, historiales de chat extensos o lotes de material que no cabrían en una ventana más pequeña. El límite de salida de 5.120 tokens significa que es más adecuado para resúmenes, respuestas, clasificaciones y pasajes generados cortos que para producir documentos muy largos en una sola llamada. Los desarrolladores que construyen asistentes que necesitan mirar una imagen y responder en texto, o pipelines que necesitan procesar grandes volúmenes de entrada mixta rápidamente, son el público natural.

Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo amazon/nova-lite-v1. Como la interfaz sigue el formato de OpenAI, las bibliotecas cliente de OpenAI existentes y las formas de solicitud generalmente funcionan con solo cambiar el nombre del modelo. Los parámetros de solicitud admitidos son max_tokens, stop, temperature, tools, top_k y top_p. El parámetro tools significa que el llamado a funciones o herramientas está disponible, por lo que el modelo puede usarse en configuraciones de estilo agente donde decide cuándo invocar una función externa. temperature, top_k y top_p dan control sobre el muestreo, mientras que stop permite definir secuencias que terminan la generación y max_tokens limita la longitud de la respuesta.

Vale la pena sopesar algunos límites antes de comprometerse. La salida está limitada a 5.120 tokens, por lo que si se necesitan respuestas únicas muy largas, un modelo con un límite de salida mayor puede encajar mejor. La fecha de corte de conocimiento del 31 de octubre de 2024 significa que las preguntas sobre eventos posteriores necesitan que el contexto relevante se incluya en el prompt. El modelo solo produce texto, por lo que no puede generar imágenes. Si la tarea es puramente de texto y no se beneficia de la entrada de imágenes o de un contexto muy grande, un modelo más simple solo de texto puede ser suficiente.