OpenAI: GPT-4o (2024-08-06)

GPT-4o (2024-08-06) OpenAI का एक टेक्स्ट जनरेशन मॉडल है, जिसे api14 पर openai/gpt-4o-2024-08-06 के रूप में पहचाना जाता है। यह 2024-08-06 को जारी GPT-4o का संस्करण है, और OpenAI इसे एक अपडेट के रूप में प्रस्तुत करता है जो structured outputs को बेहतर बनाता है, जिसमें response_format फ़ील्ड में JSON schema देने की क्षमता भी शामिल है। नाम में "o" का अर्थ "omni" है, जो दर्शाता है कि यह मॉडल केवल सादे टेक्स्ट से अधिक संभालने के लिए डिज़ाइन किया गया है।

मॉडल इनपुट के रूप में टेक्स्ट, इमेज और फ़ाइलें स्वीकार करता है, और आउटपुट के रूप में टेक्स्ट उत्पन्न करता है। इसकी context window 128,000 tokens है और यह प्रति अनुरोध अधिकतम 16,384 output tokens उत्पन्न कर सकता है। इसका knowledge cutoff 2023-10-31 है, इसलिए उस तारीख के बाद की कोई भी चीज़ उसके प्रशिक्षण के दौरान सीखी गई बातों से बाहर है। चूंकि इनपुट में टेक्स्ट के साथ इमेज और फ़ाइलें शामिल हो सकती हैं, यह केवल टेक्स्ट के बजाय मिश्रित prompts के साथ काम कर सकता है।

ये क्षमताएं कुछ व्यावहारिक उपयोगों की ओर संकेत करती हैं। दिए गए JSON schema के साथ structured outputs extraction और data shaping कार्यों के लिए उपयुक्त हैं, जहां आप चाहते हैं कि मॉडल ऐसे फ़ील्ड लौटाए जिन्हें आप सीधे parse कर सकें। Tool calling उन agent शैली के workflows के लिए उपयुक्त है जिन्हें functions या बाहरी सेवाओं को invoke करने की आवश्यकता होती है। इमेज और फ़ाइल इनपुट ऐसे कार्यों का समर्थन करता है जैसे screenshot, diagram या document पढ़ना और उसके बारे में प्रश्नों का उत्तर देना। 128,000 token की context window लंबे इनपुट, जैसे विस्तृत documents या लंबी बातचीत, को एक ही अनुरोध में संभालने की अनुमति देती है।

आप मॉडल को api14 के OpenAI-compatible API के माध्यम से model id openai/gpt-4o-2024-08-06 का उपयोग करके कॉल करते हैं। समर्थित request parameters हैं frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p और web_search_options। चूंकि इंटरफ़ेस OpenAI-compatible है, मौजूदा OpenAI SDK कोड आम तौर पर base URL और model id बदलने के साथ काम करता है।

चुनते समय कुछ सीमाएं ध्यान देने योग्य हैं। आउटपुट केवल टेक्स्ट है, इसलिए यदि आपको उत्पन्न इमेज या ऑडियो चाहिए, तो यह मॉडल उपयुक्त नहीं है। 2023-10-31 का knowledge cutoff意味着 हाल की घटनाएं कवर नहीं होतीं जब तक कि आप prompt में जानकारी न दें या web_search_options का उपयोग न करें। यदि आपका workload छोटा और सरल है, तो एक हल्का मॉडल पर्याप्त हो सकता है, जबकि यह मॉडल उन कार्यों के लिए लक्षित है जिन्हें इसकी context window, multimodal input और structured output समर्थन से लाभ होता है।