टैग: Grok AI controversy

एक्स ग्रोक रिपोर्ट: महिलाओं और नाबालिगों के खिलाफ सामग्री की निगरानी

भारत सरकार का सूचना प्रौद्योगिकी मंत्रालय सोशल मीडिया प्लेटफॉर्म ‘एक्स’ पर नजर रख रहा है। यह मामले का केंद्र है एआई चैटबॉट ‘ग्रोक’, जिसका इस्तेमाल कथित तौर पर महिलाओं और नाबालिगों की अश्लील सामग्री बनाने और साझा करने के लिए किया जा रहा है। मंत्रालय ने इस विषय पर विस्तृत कार्रवाई रिपोर्ट (ATR) मांगी है, जो वर्तमान में जांच के दायरे में है।

मंत्रालय की जांच प्रक्रिया

सूत्रों के अनुसार, मंत्रालय को एक्स द्वारा रिपोर्ट सौंप दी गई है, जिसे अब गहराई से जांचा जा रहा है। मंत्रालय यह जानने की कोशिश कर रहा है कि कंपनी ने ग्रोक के दुरुपयोग को रोकने के लिए क्या कदम उठाए हैं।

सरकार की सख्त चेतावनी

सरकार ने एक्स को स्पष्ट चेतावनी दी है कि ग्रोक के माध्यम से बनाई जा रही अश्लील सामग्री को तुरंत हटाया जाए। 2 जनवरी को एक आदेश जारी किया गया था, जिसमें गैरकानूनी सामग्री हटाने के साथ-साथ 72 घंटे में विस्तृत रिपोर्ट देने का निर्देश दिया गया था।

अनुपालन अधिकारी की भूमिका

मंत्रालय ने एक्स से यह भी स्पष्ट करने को कहा है कि उसके मुख्य अनुपालन अधिकारी ने दुरुपयोग के मामले में क्या कदम उठाए हैं। इसके अतिरिक्त, उन खातों और उपयोगकर्ताओं से संबंधित कार्रवाई की जानकारी भी मांगी गई है, जो अश्लील सामग्री फैलाने में शामिल पाए गए हैं।

फर्जीनों के खतरे की पहचान

सूत्रों के हवाले से रिपोर्ट है कि ग्रोकएआई का दुरुपयोग करके फर्जी खातों का निर्माण किया जा रहा है, जिससे महिलाओं की तस्वीरों और वीडियो को अपमानजनक रूप में साझा किया जा रहा है। यह प्लेटफार्म की सुरक्षा प्रणाली में गंभीर खामी को दर्शाता है।

कानूनी कार्रवाई की संभावनाएं

सरकार ने स्पष्ट किया है कि आईटी अधिनियम और उससे जुड़े नियमों का पालन अनिवार्य है। धारा 79 के तहत मिलने वाली ‘सेफ हार्बर’ छूट तब लागू होगी जब प्लेटफॉर्म जांच में पूरी तरह खरा उतरे। नियमों के उल्लंघन की स्थिति में एक्स पर भारतीय न्याय संहिता और आईटी अधिनियम के तहत कानूनी कार्रवाई हो सकती है।