नई दिल्ली:
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने Elon Musk की कंपनी X Corp (जिसे पहले ट्विटर कहा जाता था) को एक कड़ा नोटिस भेजा है। सरकार ने यह कदम X के आर्टिफ़िशियल इंटेलिजेंस (AI) टूल ‘Grok’ के हो रहे गलत इस्तेमाल को लेकर उठाया है। आरोप है कि इस टूल का इस्तेमाल महिलाओं की अश्लील और आपत्तिजनक तस्वीरें बनाने और उन्हें वायरल करने के लिए किया जा रहा है, जो कि आईटी एक्ट 2000 और आईटी नियमों (2021) का सीधा उल्लंघन है।
मंत्रालय ने अपने सख्त संदेश में X Corp को 72 घंटों के भीतर ‘एक्शन टेकन रिपोर्ट’ (ATR) जमा करने का आदेश दिया है। इस रिपोर्ट में कंपनी को साफ-साफ बताना होगा कि उसने इस समस्या से निपटने के लिए क्या कदम उठाए हैं। इसके अलावा, चीफ़ कंप्लायंस ऑफिसर की जिम्मेदारी और नए कानून (भारतीय नागरिक सुरक्षा संहिता – BNSS, 2023) के तहत रिपोर्टिंग नियमों का कितना पालन हुआ है, इसका भी ब्यौरा देना होगा। सरकार ने साफ कर दिया है कि भारत में काम करने वाली डिजिटल कंपनियों को यहां के कानूनों का पालन हर हाल में करना ही होगा—इसमें कोई समझौता नहीं होगा।
सरकार ने उन रिपोर्ट्स पर “गहरी चिंता” जताई है जिनमें कहा गया है कि Grok AI का इस्तेमाल करके लोग ‘डीपफेक’ जैसी अश्लील तस्वीरें और वीडियो बना रहे हैं। मंत्रालय का कहना है कि इस तरह का कंटेंट महिलाओं की निजता और सम्मान पर सीधा हमला है। सरकार ने चेतावनी दी है कि अगर ऐसे AI टूल्स पर लगाम नहीं लगाई गई, तो इससे ऑनलाइन यौन उत्पीड़न को बढ़ावा मिलेगा और महिलाओं व बच्चों की सुरक्षा के लिए बने कानून कमजोर पड़ जाएंगे।
नोटिस में खास तौर पर इस बात का जिक्र किया गया है कि यूज़र्स ऐसे ‘प्रॉम्प्ट’ (कमांड) दे रहे हैं जिससे किसी महिला की सामान्य फोटो को भी अश्लील बनाया जा सके या उनके कपड़े कम किए जा सकें। MeitY ने जोर देकर कहा कि जेनरेटिव AI तकनीक का यह बहुत ही खतरनाक दुरुपयोग है और प्लेटफॉर्म को इसे रोकने के लिए मजबूत सुरक्षा घेरा बनाना ही होगा।
मंत्रालय ने X Corp को निर्देश दिया है कि वह अपने AI टूल Grok की तकनीक, कंटेंट मॉडरेशन सिस्टम और नियमों की पूरी जांच करे। सरकार का मकसद यह सुनिश्चित करना है कि AI टूल किसी भी तरह का गैरकानूनी कंटेंट न तो बनाए और न ही उसे बढ़ावा दे। X को सख्त निर्देश दिए गए हैं कि जो भी यूज़र्स कानून तोड़ रहे हैं, उनके अकाउंट तुरंत सस्पेंड या टर्मिनेट किए जाएं। साथ ही, आपत्तिजनक कंटेंट को तुरंत हटाया जाए, लेकिन सबूतों के साथ छेड़छाड़ न हो ताकि जांच में मदद मिल सके।
मंत्रालय ने चेतावनी दी है कि अगर इन निर्देशों का पालन नहीं किया गया, तो इसके गंभीर कानूनी परिणाम हो सकते हैं। नियमों को न मानने पर X को आईटी एक्ट की धारा 79 के तहत मिलने वाला “सेफ हार्बर” (कानूनी सुरक्षा) का कवच खोना पड़ सकता है। इसका मतलब है कि थर्ड-पार्टी कंटेंट के लिए कंपनी खुद जिम्मेदार मानी जाएगी। इसके अलावा, उल्लंघन की गंभीरता को देखते हुए भारतीय न्याय संहिता (BNS), पॉक्सो (POCSO) एक्ट और महिलाओं के अश्लील चित्रण (निषेध) अधिनियम के तहत भी कार्रवाई हो सकती है।
महत्वपूर्ण बात यह है कि इस नोटिस की कॉपी कई प्रमुख मंत्रालयों, वैधानिक आयोगों और राज्य के अधिकारियों को भी भेजी गई है। यह दिखाता है कि सरकार AI के जरिए फैलाई जा रही अश्लीलता और ऑनलाइन अब्यूज को रोकने के लिए पूरी तैयारी के साथ मैदान में उतरी है और इसे एक गंभीर मुद्दा मान रही है।
यह कार्रवाई शिव सेना (UBT) सांसद प्रियंका चतुर्वेदी के दखल के बाद हुई है। उन्होंने सोशल मीडिया पर महिलाओं की सुरक्षा को लेकर केंद्र सरकार से सख्त कदम उठाने की मांग की थी। केंद्रीय मंत्री अश्विनी वैष्णव को लिखी अपनी चिट्ठी में चतुर्वेदी ने X पर चल रहे एक खतरनाक ट्रेंड का खुलासा किया था, जहां फर्जी अकाउंट्स से महिलाओं की फोटो अपलोड कर Grok से उन्हें अश्लील बनाने को कहा जा रहा था।
सांसद प्रियंका चतुर्वेदी ने कहा कि यह सिर्फ फर्जी अकाउंट्स तक सीमित नहीं है, बल्कि अपनी फोटो पोस्ट करने वाली आम महिलाओं को भी निशाना बनाया जा रहा है। उन्होंने इसे AI का “घोर दुरुपयोग” बताया और सरकार से मांग की कि वह X को अपने सिस्टम में सुधार करने के लिए मजबूर करे। उन्होंने चिंता जताई कि Grok ऐसी घिनौनी रिक्वेस्ट को स्वीकार करके इस व्यवहार को बढ़ावा दे रहा है।
सरकार का यह नोटिस सोशल मीडिया पर जेनरेटिव AI के दुरुपयोग के खिलाफ अब तक का सबसे कड़ा कदम माना जा रहा है। यह भारत में AI सेवाओं की निगरानी और सख्ती के लिए आने वाले समय में एक बड़ी नजीर बन सकता है।
