OpenAI: GPT-3.5 Turbo (older v0613)

GPT-3.5 Turbo (versión anterior v0613) es un modelo de texto de OpenAI, distribuido bajo el id de modelo openai/gpt-3.5-turbo-0613. Pertenece a la familia GPT-3.5 Turbo, que OpenAI describe como su línea de modelos más rápida, y esta versión en particular es una instantánea anterior que sigue disponible para cargas de trabajo que dependen de su comportamiento específico. Sus datos de entrenamiento llegan hasta septiembre de 2021, por lo que no tiene conocimiento de eventos posteriores a esa fecha a menos que usted proporcione la información en el prompt.

El modelo acepta texto como entrada y devuelve texto como salida, lo que lo convierte en un modelo de lenguaje de propósito general para chat y tareas de completado tradicionales. Puede comprender y generar lenguaje natural, así como código. La ventana de contexto es de 4.095 tokens, y la salida máxima es de 3.685 tokens, por lo que tanto el prompt como la respuesta comparten un presupuesto bastante ajustado en comparación con modelos modernos más grandes. Aquí no hay entrada de imágenes, audio ni archivos; todo lo que envíe debe ser texto.

Debido a que maneja tanto prosa como código, el modelo se adapta a una variedad de tareas cotidianas: asistentes de chat e interfaces conversacionales, redacción y reescritura de texto, resumen de documentos cortos, clasificación y extracción sobre entradas pequeñas, y generación o explicación de código ligero. Su soporte para herramientas y salidas estructuradas también lo hace utilizable para llamadas a funciones simples y para producir respuestas en un formato definido, lo que ayuda cuando necesita salida legible por máquina en lugar de texto libre. La ventana de 4.095 tokens significa que se adapta a prompts y respuestas que caben cómodamente en unas pocas páginas de texto, no al análisis de documentos largos.

Se invoca a través de la API compatible con OpenAI de api14 pasando el id de modelo openai/gpt-3.5-turbo-0613 en su solicitud, por lo que los SDK y bibliotecas cliente de OpenAI existentes funcionan con solo cambiar la URL base y la clave. Los parámetros de solicitud admitidos son frequency_penalty, logit_bias, logprobs, max_completion_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs y top_p. Eso cubre controles de muestreo, determinismo mediante seed, inspección a nivel de token mediante logprobs y top_logprobs, y salida impulsada por herramientas o esquemas mediante tools, tool_choice, response_format y structured_outputs.

La principal restricción a tener en cuenta es la longitud del contexto. Con 4.095 tokens y un límite de salida de 3.685 tokens, las conversaciones largas, las bases de código grandes o los prompts con múltiples documentos necesitarán fragmentación, recuperación o recorte, y el corte de conocimiento de septiembre de 2021 significa que la información reciente debe provenir de su propio contexto. Si su tarea necesita una ventana mucho más grande, conocimiento más reciente o entrada multimodal, es probable que otro modelo en api14 se ajuste mejor. Para tareas breves de texto y código de alto volumen donde la velocidad importa, este modelo sigue siendo una opción razonable.