AI Risks: सावधान! एआई से कोई आपके बच्चों की भी अश्लील तस्वीरें बना सकता है

Published: Wednesday, November 8, 2023, 19:43 [IST]

आर्टिफिशल इंटेलिजेंस तकनीक लोगों की निजी जिंदगी में भी भूचाल ले कर आ सकता है। खास कर जिस तरह से इस तकनीक का इस्तेमाल कर के डीपफेक वीडियो बनाया जा रहा है उससे हजारों लोगों की जिंदगियां तबाह हो सकती है। 8 नवंबर को बीबीसी ने स्पेन की एक महिला के हवाले से एक खबर प्रकाशित की कि उनकी बेटी की एआई के जरिये किसी ने अश्लील तस्वीरें तैयार कर उसका प्रसार कर दिया है।

उस महिला का कहना है कि उनकी तरह सैकड़ों माता-पिता ने उन्हें बताया है कि उनके बच्चे की भी एआई-जनरेटेड नग्न छवियां इस्तेमाल की गई हैं। इसी साल अक्टूबर में यूरो न्यूज़ डॉट नेक्स्ट ने यह दावा किया था कि 2019 से लेकर 2023 तक की अवधि में डीपफेक वीडियो की संख्या में 550 प्रतिशत की वृद्धि हुई है, जिनमें से अधिकांश डीपफेक पोर्नोग्राफ़ी वीडियो हैं।

स्पेन की महिला ने दिखाई दिलेरी
बीबीसी के अनुसार जिस लड़की की तस्वीर डीपफेक वीडियो के लिए इस्तेमाल की गयी थी वह स्पेन की एक गांव की रहने वाली है। उसकी मां मिरियम अल अदीब ने बताया कि उनकी बेटी की फोटो किसी ने ली और उसकी अश्लील छवि बना दी, जबकि मूल तस्वीर पूरी तरह से कपड़े पहने हुए लड़की की थी। कुछ बच्चों की पार्क में ली गई तस्वीरों से ही अश्लील छवियां बनाई गईं हैं।

मिरियम का कहना है कि दुनिया भर के माता-पिता अब यह शिकायत कर रहे हैं कि उनके बच्चों को भी निशाना बनाया गया है। वेल्श के एक शिक्षक ने तो यहां तक कहा कि बच्चों को अब एआई के खतरों से परिचित कराना बहुत जरूरी है। इंटरनेट वॉच फ़ाउंडेशन ने भी कहा है कि यह "आश्चर्य की बात नहीं" कि यह गलत काम इतना व्यापक तौर पर हो रहा है।

एआई के इस खतरनाक प्रयोग का पता तब चला जब सितंबर 2023 में अलमेंद्रलेजो शहर इस कारण सुर्खियों में आया कि 11-17 साल की उम्र की 20 से अधिक लड़कियों की एआई-जनित अश्लील तस्वीरें बिना उनकी जानकारी के ऑनलाइन साझा कर दी गईं हैं। श्रीमती अल अदीब भी उन माता-पिता के समूह में थीं, जिन्होंने प्रभावित लोगों की आवाज़ उठाने के लिए एक सहायता समूह बनाया। उनके साथ कई अन्य बच्चों के माता-पिता ने भी संपर्क किया। देखते देखते सैकड़ों लोग इस समूह में शामिल हो गये।

इन लोगों ने अभियान चलाया कि यदि कोई लड़की प्रभावित है, तो कृपया अपने माता-पिता को बताए। इससे कई लड़कियों को आगे आकर यह बताने में मदद मिली कि उनके साथ क्या हुआ था। उसके पहले कई लड़कियां अपने माता-पिता से इस बारे में बात करने की हिम्मत नहीं कर पाती थीं। एक विश्लेषण से पता चलता है कि ऑनलाइन पाए जाने वाले अधिकांश डीपफेक वीडियो अश्लील साहित्य हैं।

ब्रिटेन की पहल
पिछले हफ्ते ब्रिटेन के पहले एआई सुरक्षा शिखर सम्मेलन में गृह सचिव सुएला ब्रेवरमैन ने एआई-जनित बाल यौन शोषण सामग्री पर रोक लगाने की प्रतिबद्धता जताई। ब्रिटेन की सरकार का कहना है कि "एआई-जनित बाल यौन शोषण और दुर्व्यवहार सामग्री अवैध है, भले ही यह वास्तविक बच्चे को चित्रित नहीं करती।

ऑनलाइन सुरक्षा अधिनियम के तहत कंपनियों को सभी प्रकार के ऑनलाइन बाल यौन शोषण से निपटने के लिए सक्रिय कार्रवाई करने का सुझाव दिया गया है। खास कर सौंदर्य से संबंधित प्रचार, लाइव-स्ट्रीमिंग, बाल यौन शोषण सामग्री और बच्चों की निषिद्ध छवियां इस अधिनियम में शामिल हैं। उल्लंघन करने वाले को भारी जुर्माना का सामना करना पड़ेगा।

इंटरनेट वॉच फ़ाउंडेशन की मुख्य कार्यकारी सूसी हरग्रीव्स ने कहा कि एआई के माध्यम से उत्पन्न बाल यौन शोषण सामग्री पर तत्काल रोक नहीं लगाई गई तो एआई-जनित अश्लील छवियों की भविष्य में "सुनामी" आ सकती है। अपनी अक्टूबर 2023 की रिपोर्ट में, फाउंडेशन ने पाया कि केवल एक महीने में 20,000 से अधिक एआई-जनित छवियां एक मंच पर पाई गईं जो बाल यौन शोषण सामग्री से संबंधित थीं। सोशल मीडिया और स्मार्ट फोन जैसी चीजों के आने से यह घटनाएं ज्यादा बढ़ गईं हैं। यह भी सुझाव दिया गया है कि एआई के खतरों जैसे विषयों पर बच्चों के साथ काम करने में स्कूल एक महत्वपूर्ण भूमिका निभा सकते हैं।

एआई और पोर्न
एआई जैसी नई प्रौद्योगिकियों के आने से डीपफेक सामग्री के निर्माण में भारी वृद्धि हुई है। खास कर इनमें जाने पहचाने चेहरों के साथ यौन क्रिया करते दिखाया जा रहा है। डीपफेक पोर्नोग्राफ़ी से पीड़ित कई लोगों का कहना है कि कैसे इन काल्पनिक परिदृश्यों में उनके व्यक्तित्व को चित्रित किए जाने से उनका जीवन बर्बाद हुआ है। चोरी छिपे इस वीडियो को बनाने वालों ने उन्हें जीवन भर की सजा दे दी है। 2023 में डीपफेक पर एक व्यापक रिपोर्ट में पाया गया कि ऑनलाइन पाए जाने वाले सभी डीपफेक वीडियो में से 98 प्रतिशत डीपफेक पोर्नोग्राफी हैं जिसमे 99 प्रतिशत पीड़ित महिलाएं हैं।

रिपोर्ट में कहा गया है कि अब किसी पीड़ित के एक स्पष्ट चेहरे की छवि का उपयोग करके किसी का एक मिनट लंबा डीपफेक अश्लील वीडियो बनाने में 25 मिनट से भी कम समय लग सकता है, और इसमें कुछ खर्च भी नहीं होगा। विश्लेषण किए गए अधिकांश डीपफेक पोर्नोग्राफ़ी वीडियो दक्षिण कोरियाई महिलाओं के थे। दक्षिण कोरिया के बाद डीपफेक पोर्नोग्राफ़ी पीड़ितों के मामले में संयुक्त राज्य अमेरिका, जापान और यूनाइटेड किंगडम की महिलाएं थीं। डीपफेक पोर्नोग्राफ़ी 10 सबसे बड़ी वेबसाइटों पर 303 मिलियन से अधिक वीडियो दृश्य देखे गए हैं, जो यह दर्शाता है कि ऐसी सामग्री कितनी व्यापक और लोकप्रिय हो रही है।

Published On November 8, 2023