AI and Fake IDs: सोशल मीडिया पर नकली आईडी के असली खतरे
AI and Fake IDs: बीते हफ्ते इंडियाना यूनिवर्सिटी की एक रिपोर्ट आई है, जिसमें माइक्रो ब्लॉगिंग प्लेटफॉर्म 'एक्स' (पहले ट्विटर) पर बड़ी संख्या में फेक अकाउंट बनाए जाने का खुलासा किया गया है। अकाउंट फेक हैं, लेकिन उनमें नजर आ रहे चेहरे असली हैं। नामी-गिरामी लोगों से लेकर आम लोगों तक। हो सकता है कि हमें पता भी न हो और हमारे नाम और चेहरे पर कोई और अकाउंट तरह-तरह के ट्वीट करने में लगा हो।
इससे पहले कि आपके मन में यह प्रश्न आए कि इसमें नई बात क्या है ? फेक आईडी या फेक अकाउंट बनाने के मामले तो कई साल से सामने आ रहे हैं। इस फर्जीवाड़े में जो उल्लेखनीय बात है, वह यह है कि अब ऐसे अकाउंट इंसानों द्वारा नहीं, बल्कि एआई द्वारा बनाए जा रहे हैं। यूनिवर्सिटी की सोशल मीडिया ऑब्जर्वेटरी के शोधकर्ताओं ने अपनी स्टडी में दावा किया है कि एक्स पर ग्यारह सौ से ज्यादा ऐसे चैटबॉट्स को पहचाना जा चुका है, जो चैटजीपीटी या अन्य एआई टूल्स की मदद से असली एक्स यूजर्स की तस्वीरें चुराकर उनसे फर्जी अकाउंट बना रहे हैं। फॉक्स8 बॉटनेट के रूप में पहचाने गए ये बॉट हर रोज हजारों फेक अकाउंट बना रहे हैं और उनके जरिए दूसरे यूजरों को क्रिप्टो में निवेश के लिए उकसा रहे हैं।
मामले का खुलासा होने के बाद, बेशक एक्स ने इन 1140 बॉट अकाउंट को डिलीट कर दिया था, लेकिन अभी भी आशंका यही व्यक्त की जा रही है कि ऐसे बॉट्स की संख्या हजारों में हो सकती है जो एक्स यूजर्स की सेल्फियॉं चुराकर उनका इस्तेमाल अनाधिकृत गतिविधियों के लिए कर रहे हैं। रिसर्चरों ने यह भी पता लगाया कि इन बॉटनेटों द्वारा, अपनी भाषा को अधिक मानवीय और विश्वसनीय बनाने के लिए चैट जीपीटी का इस्तेमाल किया गया है।
इस प्लेटफॉर्म पर बॉट्स काफी पहले से मौजूद हैं। पिछले साल 27 अक्टूबर तक, जब यह एक्स नहीं ट्विटर हुआ करता था, और एलन मस्क इसके मालिक नहीं थे, तब भी उन्हें इसके बारे में पता था। उनका दावा था कि ट्विटर पर कमाई करने वाले कुल एमडीएयूज (मॉनीटाइजेबल डेली एक्टिव यूजर्स) में से बीस प्रतिशत बॉट्स हैं। दिलचस्प बात यह है कि ट्विटर का तत्कालीन प्रबंधन भी इससे इंकार नहीं करता था। लेकिन, वह बॉट्स की संख्या पॉंच प्रतिशत से कम ही मानता था।
इस बारे में सिमिलर वेब पोर्टल के डेटा साइंटिस्टों ने जुलाई 2021 से जून 2022 तक ट्विटर का अध्ययन किया। उनके निष्कर्ष मस्क के दावे की पुष्टि तो नहीं करते थे, लेकिन, फिर भी उन्होंने पाया कि ट्विटर पर जितने एमडीएयूज हैं, उनमें पॉंच प्रतिशत के अकाउंट बोट्स द्वारा संचालित किए जा रहे हैं। हालांकि स्टडी में यह भी कहा गया था कि एमडीएयूज द्वारा कुल जितना मॉनीटाइजेबल कंटेंट हर रोज ट्विटर पर पोस्ट किया जा रहा है, उसमें 20.8% से 29.2% बोट्स द्वारा जनरेट किया गया हो सकता है।
इंडियाना यूनिवर्सिटी का ताजा खुलासा इसे और अधिक विस्तृत रूप देता है। क्रिप्टो, ब्लॉकचेन, एनएफटी से संबंधित कंटेंट का प्रमोशन करने वाले, एलएलएम (लार्ज लैंग्वेज मॉडल) पर निर्भर इन बॉटनेटों के पकड़े जाने की कहानी भी इनके कारनामों जितनी ही अनोखी है। इनकी भाषा इतनी परिष्कृत थी कि जॉंच के लिए प्रचलित टूल्स भी इनके द्वारा प्रयुक्त मशीन जेनरेटेड टेक्स्ट की पहचान नहीं कर पा रहे थे। लेकिन, संभवत: उचित फिल्टरिंग प्रणाली के अभाव में इन बॉट्स द्वारा गलती से कोई ऐसा टेक्स्ट पोस्ट हो गया, जो इनकी पोल खोलने वाला था और ये रिसर्चरों की पकड़ में आ गए।
अक्टूबर 2022 से अप्रैल 2023 के दौरान रिसर्चरों ने ट्विटर पर 'एज एन एआई लैंग्वेज मॉडल' वाक्यांश के लिए सर्च किया। जो व्यक्ति चैट जीपीटी का इस्तेमाल करते हैं और इसके उपयोग की नीतियों के खिलाफ जाने वाले प्रॉम्प्ट देते रहते हैं, उनके लिए यह टर्म अनजाना नहीं है। चैट जीपीटी ऐसा कोई भी अनुरोध मिलने पर अपना यह परिचय देना नहीं भूलता। रिसर्चरों को इस वाक्यांश को सर्च करने का फायदा यह मिला कि इससे उनके सामने बड़ी संख्या में ऐसे ट्वीट और अकाउंट मिल गए, जो उनके संदेह को बढ़ा रहे थे। उन्होंने पाया कि यह एक विशाल नेटवर्क है, जो एक ही स्वामित्व वाली तीन समाचार वेबसाइटों को प्रमोट कर रहा है।
अपने संदेह की पुष्टि के लिए उन्होंने इन बॉट्स के ट्वीट्स की जॉंच करने के लिए ओपेन एआई के कंटेंट डिटेक्टर टूल का इस्तेमाल किया, लेकिन उसने भी बॉटनेट्स द्वारा पोस्ट की गई कंटेंट को मानवरचित बताया। जबकि यह कंटेंट ओपेन एआई द्वारा डेवलप किए गए प्रोग्राम चैट जीपीटी की सहायता से ही तैयार की गई थी। जीपीटीजीरो जैसे कुछ और टूल्स भी यह पता लगाने में नाकाम रहे कि संदिग्ध कंटेंट मशीन जेनरेटेड है। रिसर्चर ने इन अकाउंटों से हो रही ट्वीट, रिट्वीट, रिप्लाई जैसी गतिविधियों पर नजर रखना शुरू कर दिया और धीरे-धीरे उन्हें, इनमें मौजूद एक कॉमन पैटर्न समझ में आने लगा। जिससे उन्हें इस गोरखधंंधे का पता चला।
इंपर्सोनेशन यानि किसी और का रूप धारण करने की यह समस्या, साइबर जगत के लिए कोई नई नहीं है। वर्षों से घोटालेबाज आपका या आपके परिचितों का प्रोफाइल पिक्चर कॉपी कर, आपके नाम से अकाउंट बना रहे हैं और उनका इस्तेमाल आपके 'कॉन्टेक्ट्स' को ठगने के लिए कर रहे हैं। हालांकि अब यह चाल पुरानी पड़ चुकी है और लोग पहले की तुलना में काफी सजग व सतर्क हो गए हैं।
वित्तीय जोखिमों के अलावा भी बहुत सारे खतरे इंपर्सोनेशन के साथ जुड़े हैं। जो आर्थिक नुकसान से कई गुना ज्यादा घातक सिद्ध हो सकते हैं। आपको पता भी नहीं चलेगा और खबर मिलेगी कि फेसबुक या एक्स पर आपके नाम और चेहरे के साथ अकाउंट बनाकर कोई हेट कैम्पेन चला रहा है और आप सामाजिक या कानूनी परेशानियों में घिरने जा रहे हैं। डीप फेक और एआई की बढ़ती लोकप्रियता व सुलभता ने इस जोखिम को और बढ़ा दिया है।
शरारती/असामाजिक/आपराधिक गतिविधियों में आपके फेक अकाउंट का इस्तेमाल पहले अपेक्षाकृत जल्द पकड़ा जा सकता था। क्योंकि इनके पीछे कुछ मनुष्य होते थे, जिनसे कोई न कोई तकनीकी चूक हो जाती थी और वे जॉंच एजेंसियों की पकड़ में आ जाते थे। लेकिन, अब जबकि ऐसे घोटालों में इंसानों की जगह बॉट्स का इस्तेमाल होना शुरू हो चुका है तो इसके एक लाइलाज महामारी में बदलने के पूरे-पूरे आसार हैं। मशीनों को पकड़ पाना आसान नहीं होगा और अगर पकड़ भी लिया तो इसमें इतनी देर लग सकती है कि इनके पीछे के शातिर दिमाग अपने उद्देश्य पूरे कर चुके होंगे।
अगले साल भारत सहित विश्व के तीस से अधिक देशों में आम चुनाव, राष्ट्रपति चुनाव और इससे कई गुना ज्यादा तादाद में स्थानीय निकायों के चुनाव होने जा रहे हैं। ऐसे में इन चुनावों को प्रभावित करने के लिए सोशल मीडिया प्लेटफॉर्मों पर फॉक्स8 जैसे बॉटनेटों के इस्तेमाल की आशंका से इंकार नहीं किया जा सकता।
(इस लेख में लेखक ने अपने निजी विचार व्यक्त किए हैं। लेख में प्रस्तुत किसी भी विचार एवं जानकारी के प्रति Oneindia उत्तरदायी नहीं है।)
Click it and Unblock the Notifications
Sign in with Google