OpenAI: GPT-4o-mini (batch)

GPT-4o-mini (batch) OpenAI से एक टेक्स्ट जनरेशन मॉडल है, जो यहाँ इसके batch वेरिएंट में उपलब्ध है। यह GPT-4o परिवार से संबंधित है और OpenAI के छोटे मॉडल के रूप में स्थित है, जो पूर्ण GPT-4o के नीचे आता है। प्रदाता ने इसे 18 जुलाई 2024 को जारी किया, और इसका प्रशिक्षण ज्ञान 31 अक्टूबर 2023 तक है। यदि आपने अन्य OpenAI मॉडल का उपयोग किया है, तो व्यवहार और इंटरफ़ेस परिचित लगेगा।

मॉडल इनपुट के रूप में टेक्स्ट, छवियाँ और फ़ाइलें स्वीकार करता है, और यह केवल टेक्स्ट लौटाता है। इसकी संदर्भ विंडो 128,000 tokens है, जो लंबे दस्तावेज़ों, बहु-चरणीय बातचीत या एक ही अनुरोध में गद्य और छवियों के मिश्रण को रखने के लिए पर्याप्त है। प्रति प्रतिक्रिया आउटपुट 16,384 tokens तक सीमित है। चूंकि छवि इनपुट समर्थित है, आप टेक्स्ट प्रॉम्प्ट के साथ स्क्रीनशॉट, आरेख या स्कैन किए गए पृष्ठ भेज सकते हैं और लिखित उत्तर मांग सकते हैं। फ़ाइल इनपुट इसे उन दस्तावेज़ों तक बढ़ाता है जिन्हें आप सारांशित, निकालना या प्रश्न करना चाहते हैं।

ये क्षमताएँ व्यावहारिक उपयोगों के काफी व्यापक सेट की ओर इशारा करती हैं। लंबे PDF या रिपोर्ट पर दस्तावेज़ प्रश्न उत्तर, बैठकों और थ्रेड्स का सारांश, असंरचित टेक्स्ट से संरचित फ़ील्ड निकालना, वर्गीकरण और टैगिंग, और सामग्री का मसौदा तैयार करना या फिर से लिखना सभी उचित हैं। छवि इनपुट इसे चार्ट पढ़ने, दृश्यमान टेक्स्ट को ट्रांसक्राइब करने या स्क्रीनशॉट में क्या है इसका वर्णन करने जैसे कार्यों के लिए उपयोगी बनाता है। टूल कॉलिंग और संरचित आउटपुट का मतलब है कि यह किसी एजेंट लूप के भीतर बैठ सकता है या किसी डाउनस्ट्रीम सिस्टम को फीड कर सकता है जो एक निश्चित स्कीमा की अपेक्षा करता है, और वेब सर्च विकल्प किसी अनुरोध को बाहरी संदर्भ खींचने देता है।

आप इसे api14 के OpenAI-संगत API के माध्यम से मॉडल id "openai/gpt-4o-mini:batch" का उपयोग करके कॉल करते हैं। चूंकि सतह OpenAI-संगत है, मौजूदा OpenAI SDKs और क्लाइंट केवल base URL और key परिवर्तन के साथ काम करते हैं। यह जिन अनुरोध मापदंडों का समर्थन करता है वे हैं frequency_penalty, logit_bias, logprobs, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p और web_search_options। यह सैंपलिंग नियंत्रण, seed के माध्यम से नियतात्मक रन, response_format और structured_outputs के माध्यम से constrained decoding, और tools और tool_choice के माध्यम से टूल उपयोग को कवर करता है।

प्रतिबद्ध होने से पहले दो बातें जाँचने योग्य हैं। ज्ञान कटऑफ 31 अक्टूबर 2023 है, इसलिए इससे अधिक हाल की कोई भी चीज़ आपके प्रॉम्प्ट या web_search_options से आनी चाहिए। आउटपुट केवल टेक्स्ट है, इसलिए यदि आपको जनरेट की गई छवियाँ या ऑडियो चाहिए, तो यह मॉडल वह नहीं है। और चूंकि यह batch वेरिएंट है, पुष्टि करें कि इसकी विलंबता प्रोफ़ाइल आपके एप्लिकेशन से मेल खाती है; यदि आपको इंटरैक्टिव प्रतिक्रिया समय चाहिए, तो उसी मॉडल के मानक गैर-batch प्रविष्टि से तुलना करें।