Amazon: Nova Pro 1.0

Amazon Nova Pro 1.0 es un modelo de generación de texto de Amazon, listado en api14 bajo el id de modelo amazon/nova-pro-v1. Se sitúa en la categoría de texto y Amazon lo describe como un modelo multimodal capaz, construido para combinar precisión, velocidad y costo en una amplia gama de tareas. Fue lanzado por el proveedor el 5 de diciembre de 2024, y su fecha de corte de conocimiento es el 31 de octubre de 2024, por lo que cualquier cosa que haya ocurrido después de esa fecha queda fuera de aquello con lo que el modelo fue entrenado.

En el lado de la entrada, Nova Pro 1.0 acepta texto e imágenes, lo que lo hace multimodal en lugar de solo texto. La salida es texto. La ventana de contexto es de 300.000 tokens, lo suficientemente grande como para contener documentos largos, historiales de conversación extensos o una mezcla de texto e imágenes en una sola solicitud. La salida máxima es de 5.120 tokens, por lo que las respuestas quedan acotadas muy por debajo de la capacidad de entrada. Si tu tarea depende de producir respuestas únicas muy largas, ese techo de salida es el número que debes tener en cuenta.

Esas capacidades apuntan a un conjunto bastante amplio de usos prácticos. Como lee imágenes además de texto, encaja en tareas como describir o razonar sobre capturas de pantalla, diagramas, fotos y páginas escaneadas junto con instrucciones escritas. El contexto de 300.000 tokens es adecuado para el análisis de documentos largos, la summarización de archivos grandes y conversaciones de varios turnos donde el contexto anterior necesita permanecer a la vista. El soporte de herramientas significa que puede usarse en flujos de trabajo donde el modelo llama a funciones o servicios externos, lo cual es útil para asistentes y agentes. La generación general de texto, la extracción y la respuesta a preguntas sobre entradas mixtas de texto e imagen son todos encajes razonables.

Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "amazon/nova-pro-v1". Los parámetros de solicitud soportados son max_tokens, stop, temperature, tools, top_k y top_p. Eso cubre los controles de muestreo habituales (temperature, top_p, top_k), la longitud de salida mediante max_tokens, las secuencias de parada y el llamado a herramientas o funciones mediante tools. Como la interfaz es compatible con OpenAI, los clientes y SDK existentes que apuntan al formato de chat de OpenAI generalmente funcionan con solo cambiar el id de modelo y la URL base.

Vale la pena sopesar dos límites antes de comprometerte. La salida máxima de 5.120 tokens es modesta en relación con la ventana de entrada de 300.000 tokens, por lo que las cargas de trabajo que necesitan respuestas generadas muy largas pueden verse limitadas. La fecha de corte de conocimiento del 31 de octubre de 2024 también significa que el modelo no tiene conocimiento incorporado de eventos posteriores, por lo que las tareas que dependen de información reciente necesitan recuperación o herramientas en lugar del conocimiento propio del modelo. Si tu trabajo es solo texto y no se beneficia de la entrada de imágenes, un modelo de solo texto puede ser un encaje más simple, pero para tareas mixtas de texto e imagen con contexto largo, Nova Pro 1.0 cubre el terreno aquí descrito.