OpenAI: GPT-3.5 Turbo Instruct

GPT-3.5 Turbo Instruct es un modelo de texto de OpenAI, lanzado el 28 de septiembre de 2023. Es una variante de GPT-3.5 Turbo ajustada para indicaciones instruccionales, y omite las optimizaciones relacionadas con el chat que se encuentran en los modelos conversacionales de OpenAI. Sus datos de entrenamiento llegan hasta septiembre de 2021, que es el corte de conocimiento declarado.

El modelo toma texto como entrada y devuelve texto como salida, por lo que se adapta a trabajo de estilo de completado simple en lugar de tareas multimodales. Tiene una longitud de contexto de 4095 tokens y una salida máxima de 3685 tokens. Los parámetros de solicitud admitidos incluyen temperature, top_p, max_tokens, stop, frequency_penalty, presence_penalty, logit_bias, logprobs, top_logprobs, seed, response_format y structured_outputs.

Debido a que el modelo está ajustado para instrucciones en lugar de optimizado para chat, el encaje natural es el trabajo de indicación a completado de un solo turno. Los usos típicos incluyen redacción y reescritura de texto, resumen, clasificación, extracción en una estructura definida y canalizaciones de generación en las que se envía una instrucción y se consume una respuesta. Las salidas estructuradas y el soporte de response_format son útiles cuando el código posterior necesita formas predecibles, y logprobs con top_logprobs ayudan cuando se desea inspeccionar la confianza a nivel de token. El parámetro seed ayuda cuando se desea un muestreo más reproducible entre ejecuciones.

Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "openai/gpt-3.5-turbo-instruct". Las solicitudes siguen el esquema de estilo de chat completions de OpenAI, por lo que los SDK y clientes de OpenAI existentes funcionan con solo un cambio de URL base y clave. Envíe su instrucción como el contenido del mensaje de usuario y establezca cualquiera de los parámetros admitidos enumerados anteriormente. Tenga en cuenta que, debido a que este modelo está ajustado para instrucciones en lugar de optimizado para chat, las indicaciones escritas como una instrucción única clara tienden a adaptarse mejor que las conversaciones largas de múltiples turnos.

Las principales restricciones a tener en cuenta son la longitud de contexto de 4095 tokens y el corte de conocimiento de septiembre de 2021, por lo que cualquier cosa que requiera información reciente debe proporcionarse en la propia indicación. Los documentos largos, los archivos de código grandes o los diálogos extensos de múltiples turnos pueden superar la ventana o funcionar de forma menos natural aquí. Si necesita un ida y vuelta conversacional, un modelo optimizado para chat suele ser una mejor opción, y si necesita un contexto mucho mayor, otro modelo del catálogo encajará mejor.