OpenAI: GPT-3.5 Turbo 16k

GPT-3.5 Turbo 16k هو نموذج نصي من OpenAI، أصدره المزود في 28 أغسطس 2023. ينتمي إلى عائلة GPT-3.5 وهو النسخة ذات السياق الطويل من GPT-3.5 Turbo القياسي، حيث يوفر نحو أربعة أضعاف طول السياق لذلك النموذج. إنه نموذج لغوي للأغراض العامة وليس متخصصًا، وهو موجه للمطورين الذين يحتاجون إلى مساحة أكبر في طلب واحد مما يوفره GPT-3.5 Turbo الأساسي.

يقبل النموذج النص كمدخل ويعيد النص كمخرج. نافذة السياق الخاصة به هي 16,385 رمزًا، والحد الأقصى للمخرج هو 4,096 رمزًا. حد المعرفة هو 30 سبتمبر 2021، لذا فإن أي شيء بعد ذلك التاريخ يقع خارج بيانات تدريبه. السياق الأكبر هو الفارق الرئيسي هنا: تصفه OpenAI بأنه يدعم حوالي 20 صفحة من النص في طلب واحد، مما يجعله مناسبًا للطلبات التي تحمل قدرًا كبيرًا من المواد المصدرية بدلًا من تعليمات قصيرة.

تشكّل هذه السعة حالات الاستخدام العملية. تلخيص المستندات الطويلة، والإجابة عن الأسئلة عبر مجموعة نصوص ملصقة، واستخراج الحقول المهيكلة من التقارير المطولة، والمحادثات متعددة الأدوار التي تحتاج إلى الاحتفاظ بقدر كبير من الحوار السابق، كلها تندرج ضمن نافذة 16,385 رمزًا. ولأن النموذج يدعم الأدوات والمخرجات المهيكلة، يمكن أيضًا استخدامه في سير عمل بأسلوب استدعاء الدوال حيث يختار النموذج أداة ويعيد الوسائط، وللردود التي يجب أن تتوافق مع مخطط JSON عبر response_format. تتوفر logprobs وtop_logprobs، وهذا يساعد عندما تحتاج إلى فحص ثقة النموذج على مستوى الرموز بدلًا من النص النهائي فقط.

يمكنك استدعاؤه عبر واجهة api14 المتوافقة مع OpenAI باستخدام معرّف النموذج "openai/gpt-3.5-turbo-16k". ولأن نقطة النهاية تتبع شكل إكمالات الدردشة من OpenAI، فإن حِزم SDK والعملاء الحاليين من OpenAI يعملون مع تغيير عنوان URL الأساسي والمفتاح فقط. معاملات الطلب المدعومة هي frequency_penalty وlogit_bias وlogprobs وmax_completion_tokens وmax_tokens وpresence_penalty وresponse_format وseed وstop وstructured_outputs وtemperature وtool_choice وtools وtop_logprobs وtop_p. يكون seed مفيدًا عندما تريد أخذ عينات قابلة للتكرار، وتتيح لك تسلسلات stop تحديد نطاق التوليد.

هناك قيدان يستحقان التقييم قبل الالتزام. يعني حد المعرفة في سبتمبر 2021 أن النموذج لا يدرك الأحداث أو المكتبات أو واجهات API اللاحقة إلا إذا قدمت ذلك السياق بنفسك، كما أن سقف المخرج البالغ 4,096 رمزًا يحد من مقدار ما يمكنه إنتاجه في رد واحد حتى مع أن نافذة الإدخال كبيرة. إذا كانت مهمتك تحتاج إلى معرفة أحدث أو مخرج أطول أو إدخال صور، فإن هذا النموذج لا يغطي ذلك، وسيكون نموذج مختلف على api14 هو الخيار الأنسب.