सरकार ने एआई आधारित टूल ग्रोक के जरिये अश्लील व आपत्तिजनक सामग्री के प्रसार मामले में सोशल मीडिया प्लेटफॉर्म एक्स को कड़ी चेतावनी देते हुए कार्रवाई रिपोर्ट जमा करने के लिए 7 जनवरी तक का समय दिया है। इससे पहले सरकार ने इस प्लेटफॉर्म को जो जनवरी को नोटिस देकर 72 घंटे के भीतर रिपोर्ट (एटीआर) सौंपने का निर्देश दिया था।
सूत्रों के मुताबिक, एक्स ने रिपोर्ट दाखिल करने के लिए और समय मांगा था, जिसके बाद सरकार ने अंतिम तारीख 7 जनवरी तय की है। इससे पहले 2 जनवरी को जारी पत्र में सूचना प्रौद्योगिकी मंत्रालय ने कहा था कि ‘ग्रोक’ का दुरुपयोग कर उपयोगकर्ता फर्जी खाते बनाकर महिलाओं की अश्लील तस्वीरें व वीडियो तैयार कर उन्हें साझा कर रहे हैं। समस्या केवल फर्जी खातों तक सीमित नहीं है , बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है, जो स्वयं अपनी तस्वीरें या वीडियो साझा करती सरकार ने इसे मंच-स्तरीय सुरक्षा उपायों और निगरानी व्यवस्था की गंभीर विफलता बताया है।
ग्रोक के तकनीकी प्रक्रियागत और गवर्नेस स्तर की समीक्षा का निर्देश ….. सरकार ने एक्स को निर्देश दिया है कि वह ग्रोक के तकनीकी , प्रक्रियागत और गवर्नेस स्तर की व्यापक समीक्षा करे, ताकि एआई से किसी भी रूप में नग्नता, यौन शोषण या अवैध सामग्री का निर्माण या प्रसार न हो। साथ ही नियमों का उल्लंघन करने वाले खातों पर निलंबन और अन्य सख्त कार्रवाई सुनिश्चित करने को कहा गया। इस बीच, एक्स के सेफ्टी हैंडल ने कहा कि प्लेटफार्म अवैध सामग्री हटाएगा , ऐसे खातों को स्थायी रूप से निलंबित करेगा और स्थानीय कानूनों के अनुरूप सरकारों के साथ सहयोग करेगा।