DeepSeek: DeepSeek V3

DeepSeek V3 es un modelo de generación de texto de DeepSeek, listado en api14 bajo el id de modelo deepseek/deepseek-chat. Es el modelo más reciente del equipo de DeepSeek, y se basa en las capacidades de seguimiento de instrucciones y de programación de versiones anteriores de la familia. El proveedor lo lanzó el 2024-12-26, y fue preentrenado con casi 15 billones de tokens. Su fecha de corte de conocimiento es 2024-07-31, por lo que cualquier cosa posterior a esa fecha queda fuera de lo que el modelo aprendió durante el entrenamiento.

El modelo trabaja solo con texto, tanto de entrada como de salida, así que no acepta imágenes ni audio. Ofrece una ventana de contexto de 163.840 tokens, lo bastante grande para contener documentos largos, conversaciones extensas o archivos de código considerables en una sola solicitud. La salida máxima es de 16.384 tokens por respuesta. Como es un modelo de texto general con un fuerte seguimiento de instrucciones y capacidad de programación, encaja en tareas que implican leer y producir lenguaje o código, en lugar de trabajo multimodal.

Los usos prácticos se derivan directamente de esos rasgos. El contexto largo junto con la salida de texto es adecuado para el resumen de documentos, la respuesta a preguntas sobre material de origen extenso y el chat de varios turnos donde los turnos anteriores deben permanecer a la vista. El trasfondo de programación lo convierte en una opción razonable para la generación, explicación y refactorización de código, y para trabajar con un fragmento de código del tamaño de un repositorio en un solo prompt. El seguimiento de instrucciones admite extracción, reescritura, clasificación y otras tareas de texto estructurado, y los parámetros de llamada a herramientas lo hacen utilizable como el paso de razonamiento en un bucle de agente que necesita llamar a funciones externas.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo deepseek/deepseek-chat, así que las bibliotecas cliente de OpenAI existentes funcionan con solo cambiar la URL base y la clave. Los parámetros de solicitud que admite son frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k y top_p. En la práctica, eso cubre el control de muestreo (temperature, top_p, top_k, min_p), las penalizaciones por repetición, las ejecuciones deterministas mediante seed, la configuración de la salida con response_format y structured_outputs, y la llamada a funciones mediante tools y tool_choice.

Merece la pena señalar dos límites antes de comprometerte. La entrada y la salida son solo texto, así que si tu tarea necesita comprensión de imágenes o audio, un modelo multimodal encaja mejor. La fecha de corte de conocimiento de 2024-07-31 significa que el modelo no tiene conocimiento incorporado de eventos posteriores, así que para preguntas sensibles al tiempo deberías proporcionar información actual en el prompt o combinarlo con recuperación.