Grok AI Controversy: नई दिल्ली। आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok AI के जरिए महिलाओं और बच्चों की अश्लील तस्वीरें बनाए जाने के आरोपों को लेकर केंद्र सरकार ने कड़ा रुख अपनाया है। आईटी मंत्रालय ने सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) से जवाब तलब करते हुए मामले की जांच शुरू कर दी है।
आईटी मंत्रालय ने X को निर्देश दिया था कि वह Grok AI के माध्यम से फैल रहे अश्लील और अवैध कंटेंट पर तुरंत कार्रवाई करे और एक्शन टेकन रिपोर्ट (ATR) प्रस्तुत करे। मंत्रालय ने स्पष्ट किया है कि अगर समय रहते उचित कदम नहीं उठाए गए, तो X को आईटी एक्ट की धारा 79 के तहत मिलने वाली कानूनी छूट समाप्त की जा सकती है।
X की ओर से अपने आधिकारिक ‘सेफ्टी’ हैंडल के माध्यम से कहा गया है कि वह बाल यौन शोषण सामग्री (CSAM) सहित सभी अवैध कंटेंट के खिलाफ कार्रवाई करता है। कंपनी ने मंत्रालय को अपनी रिपोर्ट सौंप दी है, हालांकि रिपोर्ट का पूरा विवरण अभी सार्वजनिक नहीं किया गया है।
सूत्रों के मुताबिक, जांच में सामने आया है कि Grok AI का दुरुपयोग कर फर्जी अकाउंट्स के जरिए महिलाओं की आपत्तिजनक और अश्लील छवियां तैयार की जा रही थीं, जिससे डिजिटल सुरक्षा और निजता को लेकर गंभीर सवाल खड़े हो गए हैं।
आईटी मंत्रालय ने दो टूक कहा है कि ऑनलाइन प्लेटफॉर्म्स को यूजर सेफ्टी, कानून का पालन और कंटेंट मॉडरेशन को सर्वोच्च प्राथमिकता देनी होगी। सरकार इस पूरे मामले पर कड़ी नजर बनाए हुए है और जांच के बाद आगे की कार्रवाई तय की जाएगी।
