नई दिल्ली 03 जनवरी। एआई टूल ‘ग्रोक’ से आपत्तिजनक तस्वीरें,वीडियो बनाए जाने को लेकर ‘एक्स’ मुश्किल में घिर गई है। केंद्र ने शुक्रवार को नोटिस जारी कर अश्लील, आपत्तिजनक, गैरकानूनी फोटो-वीडियो तुरंत हटाने का आदेश दिया। ऐसा न करने पर सख्त कार्रवाई की चेतावनी दी गई है। एक्स को 72 घंटे में कार्रवाई की रिपोर्ट सौंपनी होगी। इस बीच, ग्रोक ने स्वीकार किया है कि सुरक्षा उपायों में चूक के कारण यौन प्रकृति की तस्वीरें तैयार हुईं, जो उसके अपने उपयोग नियमों और कानून दोनों का उल्लंघन है।
ग्रोक ने कहा है कि आपत्तिजनक सामग्री हटा दी गई है। सुरक्षा खामियों को ठीक किया जा रहा है। इलेक्ट्रॉनिक्स सूचना प्रौद्योगिकी मंत्रालय ने एक्स के भारत स्थित मुख्य अनुपालन अधिकारी को दिए नोटिस में कहा है, कानून का उल्लंघन करने वाली सामग्री तय समय-सीमा में हटाया जाए और साक्ष्यों से छेड़छाड़ न हो। सरकार ने स्पष्ट किया कि वास्तविक महिलाओं और नाबालिगों को भी एआई के जरिए निशाना बनाया जा रहा है।
दरअसल, शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने शुक्रवार को AI चैटबोट Grok के गलत इस्तेमाल पर चिंता जताई थी। उन्होंने आईटी मिनिस्टर को लेटर लिखा था। इसमें कहा था कि कुछ लोग AI की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं, जो बेहद गंभीर मामला है।
कुछ यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद Grok AI को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए। AI से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसी प्रॉम्प्ट दिए जाते हैं।
इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि Grok इस तरह की गलत मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है।
सोशल मीडिया कंपनी सामग्री की जिम्मेदारी लें:वैष्णव
सोशल मीडिया प्लेटफॉर्म को प्रकाशित सामग्री की जिम्मेदारी लेनी चाहिए। केंद्रीय मंत्री अश्विनी वैष्णव ने कहा कि केंद्र ने एक सप्ताह पहले सोशल मीडिया मंचों को चेतावनी दी थी कि वे अश्लील, अभद्र-गैरकानूनी सामग्री पर कार्रवाई में विफल रहते हैं तो उन्हें कड़ी कानूनी कार्रवाई से गुजरना होगा।
