नवी दिल्ली: सोशल मीडिया प्लॅटफॉर्म ‘X’ (पूर्वीचे ट्विटर) वरील ‘Grok AI’ या सुविधेचा गैरवापर करून महिलांचे अश्लील फोटो आणि अभद्र मजकूर तयार केला जात असल्याच्या तक्रारींची केंद्र सरकारने गंभीर दखल घेतली आहे. इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) याप्रकरणी X Corp ला कडक नोटीस बजावली असून, ७२ तासांच्या आत अशा सर्व आक्षेपार्ह मजकुरावर कारवाई करून अहवाल सादर करण्याचे आदेश दिले आहेत.
Grok AI चा गैरवापर आणि सरकारची चिंता
X ची कृत्रिम बुद्धिमत्ता (AI) सेवा असलेल्या ‘Grok’ चा वापर करून काही युजर्स महिलांना लक्ष्य करत असल्याचे समोर आले आहे. यामध्ये महिलांचे अश्लील, लैंगिक आणि आक्षेपार्ह फोटो (Deepfakes) आणि व्हिडिओ बनवून ते शेअर केले जात आहेत. यामुळे व्यक्तीच्या गोपनीयतेचा आणि सन्मानाचा गंभीर भंग होत असल्याचे मंत्रालयाने आपल्या पत्रात नमूद केले आहे. अशा कृतींमुळे लैंगिक छळासारख्या प्रवृत्तींना खतपाणी मिळते आणि कायदेशीर सुरक्षा व्यवस्था कमकुवत होते, अशी भीती सरकारने व्यक्त केली आहे.
IT नियमांचे उल्लंघन आणि कारवाईचा इशारा
माहिती तंत्रज्ञान कायदा २००० आणि माहिती तंत्रज्ञान नियम २०२१ अंतर्गत सोशल मीडिया कंपन्यांनी अशा प्रकारचा मजकूर रोखणे बंधनकारक आहे. मात्र, X Corp ने या कर्तव्याचे पालन केले नसल्याचे सरकारचे म्हणणे आहे. मंत्रालयाने स्पष्ट केले आहे की, जर ७२ तासांच्या आत आक्षेपार्ह कंटेंट हटवला नाही आणि दोषी युजर्सवर कारवाई केली नाही, तर X वर माहिती तंत्रज्ञान कायद्यानुसार आणि भारतीय नागरिक सुरक्षा संहिता (BNSS) २०२३ नुसार कडक कायदेशीर कारवाई केली जाईल.
मुख्य अनुपालन अधिकाऱ्याला उत्तर देण्याचे आदेश
मंत्रालयाने आपल्या नोटीसमध्ये X च्या मुख्य अनुपालन अधिकाऱ्याला (Chief Compliance Officer) या प्रक्रियेत सक्रिय राहण्याचे आदेश दिले आहेत. ७२ तासांच्या आत पाठवण्यात येणाऱ्या ‘ॲक्शन टेकन रिपोर्ट’ (ATR) मध्ये कोणत्या प्रकारचा मजकूर हटवला, कोणत्या युजर्सवर कारवाई केली आणि भविष्यात असे प्रकार रोखण्यासाठी काय उपाययोजना केल्या आहेत, याचा सविस्तर तपशील असणे अनिवार्य आहे.