MythoMax 13B

MythoMax 13B es un modelo de texto de Gryphe, identificado en api14 como gryphe/mythomax-l2-13b. Es un ajuste fino de Llama 2 13B, producido mediante fusión en lugar de una única ejecución de entrenamiento, y Gryphe lo describe como uno de los ajustes finos con mejor rendimiento y más populares de ese modelo base. Se sitúa en la categoría de texto, por lo que está diseñado para trabajo de lenguaje y no para imágenes, audio u otras modalidades.

El modelo toma texto como entrada y devuelve texto como salida. Tiene una ventana de contexto de 8192 tokens, que cubre un prompt razonablemente largo más la respuesta generada, y su salida máxima es de 3686 tokens. Su fecha de corte de conocimiento es el 30 de junio de 2023, por lo que cualquier cosa posterior a esa fecha queda fuera de lo que aprendió durante el entrenamiento. Gryphe destaca las descripciones ricas y el roleplay como fortalezas particulares de este ajuste fino, lo que es una señal útil sobre el tipo de prosa que tiende a producir.

Esas características apuntan a un conjunto de usos bastante específico. Las fortalezas de roleplay y descripción rica lo hacen un ajuste natural para ficción interactiva, chat impulsado por personajes y generación narrativa o de diálogo donde el tono y el detalle importan. El contexto de 8192 tokens te permite mantener a la vista una conversación larga o una escena sustancial sin recortar constantemente, y el límite de salida de 3686 tokens admite respuestas que ocupan varios párrafos. Más allá de la escritura creativa, funciona para generación de texto general y asistentes de estilo chat, aunque la fecha de corte de conocimiento significa que no deberías confiar en él para preguntas sobre eventos posteriores a junio de 2023.

Lo llamas a través de la API compatible con OpenAI de api14 usando el id de modelo gryphe/mythomax-l2-13b, por lo que las bibliotecas cliente de OpenAI existentes y las formas de solicitud funcionan con solo cambiar el nombre del modelo. Los parámetros de solicitud admitidos son frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_a, top_k, top_logprobs y top_p. Es una amplia superficie de muestreo y control: los ajustes habituales de temperature, top_p, top_k y penalizaciones, más min_p, top_a y repetition_penalty, que son comunes en flujos de trabajo de ajustes finos de la comunidad. Seed te da un muestreo reproducible, las secuencias stop te permiten cortar la generación en una cadena elegida, y logprobs con top_logprobs exponen probabilidades a nivel de token. response_format y structured_outputs están disponibles si necesitas que la salida tenga una forma particular.

Los límites principales a tener en cuenta son el contexto de 8192 tokens y el tope de salida de 3686 tokens, junto con la fecha de corte de conocimiento de junio de 2023. Si tu tarea necesita un contexto mucho mayor, conocimiento más reciente o entrada que no sea texto, un modelo diferente en api14 encajará mejor. Para escritura creativa, chat de personajes y generación de texto general dentro de esos límites, este modelo es una elección razonable.