Google Gemini: शुरू होते ही क्यों फंस गया जेमिनी एआई?
Google Gemini: टेक्नोलॉजी की दुनिया से बीते कुछ दिनों से बेहद चौंकाने वाली खबरें आ रही हैं। बायजू, पेटीएम की गहमागहमी अभी शांत भी नहीं हुई है कि गूगल का एआई प्रोग्राम जेमिनी भी दुश्वारियों के भंवर में फँस गया है।
जेमिनी जो तीन सप्ताह पहले तक बार्ड के नाम से जाना जाता था, पिछले साल क्रमबद्ध तरीके से मार्च-मई के दौरान लॉन्च किया गया था। वह चैटजीपीटी के सबसे मजबूत प्रतिद्वंद्वी के रूप में सामने आया। गूगल जैसे शक्तिशाली सर्च इंजन के पॉवर बैकअप के साथ रीयल टाइम नतीजे देने में सक्षम बार्ड (अब जेमिनी) देखते ही देखते एआई यूजर्स में काफी लोकप्रिय होता चला गया।
230 से ज्यादा देशों में 40 भाषाओं में उपलब्ध बार्ड के लॉन्च के समय डेढ़ करोड़ यूजर थे। डिमांड सेज की एक रिपोर्ट का दावा है कि 2023 के अंत तक यह संख्या लगभग एक अरब हो चुकी थी। जेमिनी (बार्ड), जो खुद चैटजीपीटी के प्रतिद्वंद्वी के रूप में लॉन्च किया गया था, इतना ताकतवर हो चुका है कि अब जब भी कोई बड़ा एआई प्लेटफॉर्म, जैसे क्यूएक्सलैब या कृत्रिम, लॉन्च होता है तो उसकी तुलना चैटजीपीटी से नहीं, बल्कि जेमिनी से की जाती है।
अब सवाल यह उठता है कि इतनी सारी खूबियों के बावजूद चूक आखिर कहॉं हुई, जो जेमिनी को इतने बुरे वक्त का सामना करना पड़ रहा है? हाल यह है कि जेमिनी की पैरेंट कंपनी अल्फाबेट की मार्केट वैल्यू में 90 अरब डॉलर की गिरावट आ गई और गूगल के सीईओ सुंदर पिचाई को निकाले जाने या इस्तीफे की अटकलें लगाई जा रही हैं। इसकी वजह, जेनरेटिव एआई की लगातार बढ़ती ताकत, निरंकुश क्षमताओं और उस श्रेष्ठता दंभ में निहित हैं, जिसकी चेतावनी सामाजिक चिंतक और तकनीक विशेषज्ञ शुरू से ही देते आ रहे हैं और एआई कंपनियों को आगाह करने में लगे हैं कि एआई को अभी इतना ताकतवर न बनाएं। लेकिन, प्रतिस्पर्द्धा में बढ़त बनाए रखने की चाहत में ये कंपनियॉं ऐसे सुझावों को हमेशा अनसुना ही करती आई हैं।
जेमिनी की मुश्किलें शुरू हुईं उसके इमेज जेनरेटर टूल की वजह से, जिसे उसने बहुत उत्साह के साथ इस उम्मीद में लॉन्च किया था कि यह उसे जेनरेटिव एआई प्लेटफॉर्मों में सबसे आगे कर देगा। लेकिन, गूगल का दांव उल्टा पड़ गया। शुरूआत में तो सब कुछ ठीक चला, लेकिन बाद में इसने यूजर को खिझाना शुरू कर दिया।
सोशल मीडिया पर जेमिनी एआई द्वारा रची गई इमेजों के साथ प्रतिकूल टिप्पणियॉं आने लगीं कि यह रेसिस्ट (नस्लवादी) है। इन तस्वीरों में से एक में एक अश्वेत महिला को संयुक्त राज्य अमेरिका की संस्थापक बताया था, वहीं एक और इमेज में नाजी युग के जर्मन सैनिकों के रूप में अश्वेतों व एशियाई लोगों को दर्शाया। एक यूजर की टिप्पणी थी कि जेमिनी रचित चित्र यह आभास देते हैं कि शायद पृथ्वी पर गोरे लोगों का अस्तित्व ही नहीं है।
जब जेमिनी के इस रवैये की ज्यादा आलोचना हुई तो गूगल ने अपनी इमेज जेनरेशन सर्विस को अस्थायी तौर पर निलम्बित कर दिया। लेकिन, तुरंत ही उसे अहसास हो गया कि समस्या जड़ों में है, पत्तों में नहीं।
दरअसल, इस तरह की अविवेकपूर्ण प्रतिक्रियाएं जेमिनी चित्र सृजन में ही नहीं दे रहा था, बल्कि यूजर्स द्वारा दिए गए प्रॉम्प्ट के जवाब में भी उसके वक्तव्य बहुत आपत्तिजनक पाए गए। एक यूजर ने उससे पूछा कि एलन मस्क के ट्वीट किए गए मीम्स का समाज पर ज्यादा नकारात्मक असर पड़ा है या लाखों लोगों को मारने का आदेश देने वाले हिटलर का? तो जेमिनी का जवाब था कि यकीन से कह पाना मुश्किल है कि समाज पर किसका ज्यादा बुरा असर पड़ा है।
जेमिनी की इन मूर्खताओं ने भारत को भी नहीं बख्शा। क्या प्रधानमंत्री श्री नरेंद्र मोदी को फासीवादी माना जा सकता है, एक पत्रकार द्वारा यह सवाल पूछे जाने पर जेमिनी का जवाब यह था कि उन पर कुछ ऐसी नीतियॉं लागू करने का आरोप है, जिन्हें विशेषज्ञ फासीवादी मानते हैं। लेकिन, जब यही सवाल पूर्व अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प, यूक्रेनी राष्ट्रपति झेलेन्सकी के बारे में पूछा गया तो उसने स्पष्ट जवाब देने से इंकार कर दिया।
ये और इनके जैसे दूसरे तमाम उदाहरण, सबसे ज्यादा जिस चीज की ओर संकेत करते हैं, वह यह है कि इस तरह के लार्ज लैंग्वेज लर्निंग मॉडल, सीखने के लिए ट्रेनिंग डाटा के रूप में जिन स्रोतों का इस्तेमाल कर रहे हैं, वे न तो तथ्यात्मक दृष्टि से सम्पूर्ण है और न ही संवेदनशील सूचनाओं को लेकर सजग। अधिकतर, एलएलएम को इस तरह से डिजाइन किया गया है कि वे आपको उत्तर जरूर दें। चाहें वह उत्तर गलत, अधूरा या आपत्तिजनक या घातक ही क्यों न हो। इसके लिए वे सूचनाओं के ढेर में संबंधित सूचनाएं तो उठा लेते हैं, लेकिन नीर-क्षीर का भेद करने वाली सामर्थ्य उनमें नहीं हैं। वैश्विक विविधता को लेकर इनकी समझ आधी-अधूरी है। और अधूरा ज्ञान, अज्ञान से ज्यादा घातक होता है, यह कहावत इन एलएलएम पर भी लागू होती है।
चैटजीपीटी और जेमिनी के बाद लगातार इस तरह के कई और एआई प्लेटफॉर्म आए हैं, जिनका धड़ल्ले से और बड़े पैमाने पर इस्तेमाल किया जा रहा है। लेकिन, हाल की घटनाएं, इस गति को थोड़ा धीमे किए जाने की जरूरत पर जोर देती हैं। आनन-फानन में प्लेटफॉर्म को लॉन्च कर देने की बजाए, इससे पहले डेवलपर कंपनियों को कुछ बातों का बहुत ज्यादा ध्यान रखना होगा, जो जेमिनी जैसे उन्नत लार्ज लैंग्वेज मॉडलों की प्रतिक्रियाओं में खामियों की वजह बनती हैं।
इनमें सबसे पहली तो प्रशिक्षण डाटा में पूर्वाग्रहयुक्त डाटा का घालमेल ही है। चूंकि बड़े भाषा मॉडल को टेक्स्ट और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, इसलिए उनके उस डाटा के भीतर मौजूद पूर्वाग्रहों (बायस) को प्राप्त कर लेने की आशंका बनी रहती है। ये पूर्वाग्रह अलग-अलग तरीकों से स्फुटित होकर मॉडल की प्रतिक्रियाओं को प्रभावित कर सकते हैं और संभावित रूप से गलत या आक्रामक आउटपुट दे सकते हैं।
इसके अलावा, उन्नत से उन्नत एलएलएम को शक्ति प्रदान करने वाले एल्गोरिदम अभी भी विकास की प्रक्रिया में हैं और किसी भी सूचना के संदर्भों, इरादों और बारीकियों को समझने को लेकर उनकी कुछ सीमाएं हो सकती हैं। इससे कभी-कभी प्रॉम्प्ट की गलत व्याख्या हो सकती है या ऐसे रिस्पॉन्स उत्पन्न हो सकते हैं जो दी गई स्थिति के लिए तथ्यात्मक रूप से गलत या अनुपयुक्त हैं।
तीसरा बिंदु यह है कि एलएलएम को अक्सर ऐसे ओपन-एंडेड प्रॉम्प्ट्स या प्रश्नों को संभालने का जिम्मा सौंपा जाता है, जिनमें स्पष्ट संदर्भ या विशिष्ट निर्देशों का अभाव होता है। यह अस्पष्टता मॉडल को ऐसी प्रतिक्रियाएँ उत्पन्न करने के लिए प्रेरित कर सकती है जो उपयोगकर्ता को भ्रामक या अप्रासंगिक लग सकती हैं।
इस तरह की समस्या से बचने के लिए डेवलपरों को अपनी आलोचनाओं और खामियों को स्वीकार करने और उन्हें दूर करने को लेकर ज्यादा खुलापन अपनाना चाहिए। मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले अंतर्निहित डाटा में संभावित पूर्वाग्रहों को तुरंत पहचानना और फिल्टर करना, एल्गोरिदम को परिष्कृत कर आक्रामक या भ्रामक सामग्री उत्पन्न करने के जोखिम को कम करना, सिर्फ डाटा पर निर्भर न रहते हुए, ऐसे मानव विशेषज्ञों की सेवाएं लेना जिन्हें वैश्विक विविधताओं और स्थानीय संवेदनशीलताओं की समझ हो... ऐसे कुछ उपाय इस मामले में काफी मददगार साबित हो सकते हैं। और, यह काम सिर्फ एलएलएम की ट्रेनिंग या डेवलपमेंट तक ही सीमित नहीं रहना चाहिए, बल्कि इसे सतत जारी रखे जाना भी इतना ही जरूरी है।
(इस लेख में लेखक ने अपने निजी विचार व्यक्त किए हैं। लेख में प्रस्तुत किसी भी विचार एवं जानकारी के प्रति Oneindia उत्तरदायी नहीं है।)
Click it and Unblock the Notifications
Sign in with Google