‘अब X पर गंदगी नहीं चलेगी’, Grok विवाद के बाद 600 अकाउंट डिलीट, 3,500 पोस्ट ब्लॉक, सरकार के आगे झुके Elon Musk

Elon Musk X (पुराना नाम Twitter): कुछ दिन पहले तक X यानी ट्विटर पर एक अजीब सी अराजकता दिख रही थी। लोग Elon Musk की AI टेक्नोलॉजी Grok का इस्तेमाल कर अश्लील तस्वीरें और वीडियो बना रहे थे, महिलाओं और नाबालिगों की फोटो को एडिट कर आपत्तिजनक कंटेंट फैलाया जा रहा था और प्लेटफॉर्म पर इसकी बाढ़ आ गई थी। मामला जब भारत सरकार तक पहुंचा, तो अब जाकर X ने बड़ा कदम उठाया है।

केंद्र सरकार के सख्त रुख के बाद X ने 3,500 से ज्यादा पोस्ट ब्लॉक कर दिए हैं और करीब 600 अकाउंट्स को हमेशा के लिए हटा दिया है। सूत्रों के मुताबिक, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय यानी MeitY ने एक हफ्ते पहले X को नोटिस भेजा था। इसमें साफ कहा गया था कि Grok और xAI की दूसरी AI सेवाओं का गलत इस्तेमाल करके जो अश्लील, न्यूड और आपत्तिजनक कंटेंट बनाया जा रहा है, उसे तुरंत रोका जाए।

मंत्रालय ने X से 72 घंटे के अंदर एक्शन टेकन रिपोर्ट भी मांगी थी। चेतावनी इतनी कड़ी थी कि अगर पालन नहीं हुआ तो भारतीय कानूनों के तहत प्लेटफॉर्म और उसके अफसरों पर सख्त कार्रवाई हो सकती थी।

X ने मानी गलती, नियमों पर चलने का वादा

सरकारी दबाव के बाद X ने माना कि उसके प्लेटफॉर्म पर आपत्तिजनक कंटेंट फैला और उसे रोकने में सिस्टम फेल हुआ। इसके बाद कंपनी ने भारत सरकार को भरोसा दिलाया कि आगे से ऐसे कंटेंट को किसी भी हालत में अनुमति नहीं दी जाएगी और देश के कानूनों का पूरी तरह पालन किया जाएगा।

इसी के तहत 3,500 पोस्ट ब्लॉक किए गए और 600 अकाउंट्स को डिलीट किया गया, जो Grok की मदद से अश्लील कंटेंट फैला रहे थे।

Grok AI आखिर है क्या?

Grok असल में Elon Musk की कंपनी xAI का बनाया हुआ एक AI चैटबॉट है। इसे X प्लेटफॉर्म के अंदर भी इस्तेमाल किया जा सकता है और अलग से ऐप के जरिए भी।

यूजर्स टेक्स्ट या वॉयस कमांड देकर इससे सवाल पूछ सकते हैं, इमेज बना सकते हैं या एडिट कर सकते हैं। यही फीचर हाल के दिनों में सबसे बड़ा सिरदर्द बन गया, क्योंकि कुछ लोग Grok से महिलाओं और बच्चों की फोटो को अश्लील रूप में बदलवा रहे थे और फिर उसे X पर पोस्ट कर रहे थे।

महिलाओं और बच्चों को बनाया गया निशाना

MeitY की चिट्ठी में साफ कहा गया था कि यूजर्स Grok का इस्तेमाल फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें और वीडियो आपत्तिजनक ढंग से पेश करने के लिए कर रहे हैं। यह न सिर्फ निजता का उल्लंघन है, बल्कि महिलाओं की गरिमा को ठेस पहुंचाने वाला अपराध भी है।

मंत्रालय ने इसे AI टेक्नोलॉजी का गंभीर दुरुपयोग बताया और कहा कि X के प्लेटफॉर्म लेवल पर सुरक्षा और निगरानी सिस्टम पूरी तरह नाकाम रहे हैं।

कानूनी तलवार भी लटकी

सरकार ने X को आगाह किया कि अगर वह नियमों का पालन नहीं करता, तो IT Act की धारा 79 के तहत मिलने वाली 'सेफ हार्बर' सुरक्षा खत्म हो सकती है।

इतना ही नहीं, भारतीय न्याय संहिता, महिलाओं के अश्लील चित्रण पर रोक लगाने वाला कानून और POCSO जैसे सख्त कानूनों के तहत भी कार्रवाई हो सकती है। नोटिस में यह भी कहा गया कि मामला सिर्फ फेक अकाउंट्स तक सीमित नहीं है, बल्कि असली तस्वीरों को AI से बदलकर गलत तरीके से पेश करना भी उतना ही गंभीर अपराध है।

अब आगे क्या होगा?

X ने सरकार को आश्वासन दिया है कि वह Grok के तकनीकी ढांचे और गवर्नेंस सिस्टम की पूरी समीक्षा करेगा। यूजर पॉलिसी और सख्त होगी और नियम तोड़ने वालों के अकाउंट सस्पेंड या टर्मिनेट किए जाएंगे। इस पूरे मामले ने साफ कर दिया है कि AI कितना ताकतवर है, लेकिन अगर उस पर लगाम न हो तो वह कितना खतरनाक भी हो सकता है।

Elon Musk का प्लेटफॉर्म X अब भारत में एक कड़ी परीक्षा से गुजर रहा है। सरकार साफ कर चुकी है कि अश्लील कंटेंट और AI के दुरुपयोग पर कोई ढील नहीं मिलेगी। 600 अकाउंट्स की सफाई और हजारों पोस्ट का ब्लॉक होना इसी सख्ती की पहली झलक है, लेकिन असली चुनौती अब आगे इस डिजिटल गंदगी को दोबारा पनपने से रोकने की होगी।

English summary

grok AI controversy Elon Musk Action X deletes 600 accounts blocks 3500 posts-india