Qwen2.5 72B Instruct

Qwen2.5 72B Instruct es un modelo de generación de texto de Qwen, la serie de modelos de lenguaje grandes desarrollada por Alibaba Cloud. Pertenece a la familia Qwen2.5, que el proveedor describe como portadora de un conocimiento significativamente mayor que Qwen2, junto con capacidades de programación muy mejoradas. El modelo fue lanzado por el proveedor el 19 de septiembre de 2024, y su conocimiento de entrenamiento llega hasta un corte del 30 de junio de 2024. Se sitúa en la categoría de texto y está posicionado como un modelo ajustado para instrucciones, lo que significa que está diseñado para seguir prompts y producir respuestas directas en lugar de continuaciones sin procesar.

El modelo acepta texto como entrada y devuelve texto como salida, por lo que sirve para cualquier tarea que pueda expresarse en lenguaje. Su ventana de contexto es de 32.768 tokens, lo que cubre una cantidad sustancial de material en una sola solicitud, y la longitud máxima de salida es de 16.384 tokens. Esa combinación se adapta a prompts largos, como resúmenes de varios documentos, archivos de código extensos o instrucciones detalladas en las que la propia respuesta también puede ser larga. Dado que solo se admite texto en ambos lados, el modelo no procesa imágenes, audio ni otras modalidades.

Esas capacidades apuntan a un conjunto bastante amplio de usos prácticos. El seguimiento de instrucciones y el énfasis en la programación lo convierten en una opción razonable para la generación de código, la refactorización, la ayuda con la depuración y la explicación de código existente. La gran ventana de contexto admite flujos de trabajo de estilo recuperación en los que se pegan varios pasajes de origen en el prompt y se pide al modelo que sintetice o responda preguntas sobre ellos. También sirve para redactar y editar prosa, extracción estructurada de texto, clasificación y resumen, y asistentes conversacionales que necesitan mantener un hilo largo de diálogo dentro del presupuesto de tokens.

Puedes llamar al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "qwen/qwen-2.5-72b-instruct". Dado que la interfaz sigue la forma de chat completions de OpenAI, los SDK y clientes de OpenAI existentes generalmente funcionan con solo cambiar la URL base y la clave. El modelo admite un amplio conjunto de parámetros de solicitud: frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k y top_p. Por lo tanto, el llamamiento de herramientas y las salidas estructuradas están disponibles directamente, lo que resulta útil cuando necesitas que el modelo devuelva JSON o invoque funciones en lugar de texto libre.

Vale la pena sopesar algunas restricciones antes de comprometerte. El contexto de 32.768 tokens es generoso, pero no ilimitado, por lo que bases de código muy grandes o conjuntos de documentos largos pueden necesitar fragmentación o recuperación en lugar de un solo prompt. El corte de conocimiento del 30 de junio de 2024 significa que cualquier cosa más reciente tiene que venir del propio prompt. Si tu carga de trabajo no está basada en texto, este modelo no ayudará, ya que no tiene entrada de imagen ni audio. Para tareas que encajen dentro de estos límites, ofrece un modelo de texto de propósito general capaz, con un fuerte control de parámetros.