कानूनी शिकंजा डीपफेक पर : एआई लेबल और 3 घंटे में हटाना होगा गलत कंटेंट

नई दिल्ली, 05 मार्च (जा)। बीते कुछ महीनों से इंटरनेट मीडिया पर आकर्षक व रियलिस्टिक फोटो और वीडियो की भरमार है। इससे पहले ‘एक्स’ पर सहमति के बिना महिलाओं की फोटो शेयर की जा रही थी, जिसे लेकर खूब विवाद भी हुआ। दरअसल, एआई टूल्स की सुलभता के चलते आज एआई से तरह-तरह के कंटेंट बनाना और उसे प्रसारित करना बहुत आसान हो गया है। इससे क्रिएटिविटी, क्वालिटी और आथेंटिसिटी तीनों पर गहरा प्रभाव पड़ा है।
एक्सपर्ट मानते हैं कि एल्गोरिदम वास्तविक दिखने वाले (हाइपर रियलिस्टिक) एआई जेनरेटेड कंटेंट को अधिक बढ़ावा देते हैं, क्योंकि इनमें इंगेजमेंट रेट काफी अधिक होता है। चूंकि, एक्स, इंस्टाग्राम और फेसबुक आदि यूजर्स को इंगेज करने वाले प्लेटफार्म हैं, इसलिए यहां ऐसे कंटेंट तेजी से वायरल होते हैं। हाल के दिनों में इटली की प्रधानमंत्री जियोर्जिया मेलोनी से लेकर पाकिस्तान की अजमा बुखारी तक यहां डीपफेक वीडियो का शिकार बन चुकी हैं। जिस तेजी से एआई टूल्स का दुरुपयोग हो रहा है, उससे महिलाओं और बच्चों को डिजिटल स्पेस में प्रताड़ित करने का एक नया चलन ही शुरू हो गया है।
ऐसे में डिजिटल स्पेस में जवाबदेही और विश्वसनीयता तय करने की बहस काफी तेज हो गई है। इसी के मद्देनजर केंद्र सरकार आज यानी 20 फरवरी से आईटी संशोधन नियम 2026 को लागू करने जा रही है। इसमें एआई कंटेंट की लेबलिंग करने से लेकर तीन घंटे के भीतर डीपफेक और फेक न्यूज को हटाने जैसे कुछ कड़े प्रावधान किए जा रहे हैं।
वायरल होने की दौड़ में जब सच्चाई पर हमला होता है, तो व्यक्ति विशेष ही नहीं बल्कि पूरा समाज शिकार बनता है। एआई जनित सिंथेटिक कंटेंट और अफवाहों के प्रसार में कब और क्या ट्रिगर हो जाए, किसी को पता नहीं होता। ऐसे में हर कंटेंट पर निगरानी जरूरी है, चाहे वह टेक टूल्स के जरिये हो, फिर कानूनी शिकंजे से। इंटरनेट मीडिया पर कंटेंट साझा करने की स्पीड इतनी तेज होती है कि कोई भी एल्गोरिदम कंटेंट को सेंसर करने या तथ्यों की सत्यतता जांचने के लिए अभी तक पूरी तरह सक्षम नहीं बन पाया है।
इंसान और एआई के कंटेंट के बीच का भेद मिटता जा रहा है। इसे देखते हुए विश्व आर्थिक मंच ने सिंथेटिक कंटेंट से होने वाली फेक न्यूज को दुनिया के सबसे बड़े खतरों में से एक माना है। अभी तरह फेक को चिह्नित करने, सोर्स को जांचने और संभावित हेराफेरी पर नजर रखने के लिए तकनीकी उपाय ही किए जाते रहे हैं। जिस तेजी से सिंथेटिक कंटेंट रियलिटी के करीब पहुंच रहे हैं, उससे बिना टेक्नीकल सपोर्ट के फ्रैबिकेटेड मीडिया की पहचान मुश्किल होती जा रही है।
एआई जनित साइबर अपराध कॉरपोरेट फ्रॉड तक ही सीमित नहीं है, इससे सामाजिकता प्रभावित होने लगी है। स्कूल में कोई बच्चा किसी सहपाठी का डीपफेक वीडियो बनाकर शेयर कर दे या वायस क्लोनिंग के जरिये किसी के साथ ठगी हो जाए, यह कल्पना नहीं आज की हकीकत बन गई है। अनेक रिसर्च बताते हैं कि इंसान लगातार एआई जेनरेटेड आवाज को चिह्नित कर पाने की स्थिति में नहीं रह सकता। लोगों को सिर्फ प्रशिक्षित करना ही पर्याप्त नहीं है, बल्कि ऐसा सिस्टम डिजाइन करने की जरूरत है, जो बचाव और निगरानी दोनों स्तरों पर काम करे।
एआई ने कंटेंट तैयार करने की गति को पहले से काफी तेज और आसान बना दिया है। हालांकि, इसके साथ अफवाह, फ्रॉड और सार्वजनिक विश्वास की चुनौतियां भी बढ़ रही हैं। भारत में डिजिटल आइडेंटिटी दुरुपयोग और ऑनलाइन सुरक्षा से जुड़े अनेक मामले सामने आ चुके हैं। साइबर सुरक्षा रिपोर्ट बताती हैं कि 2019 से 2024 के बीच डीपफेक के मामलों में दुनियाभर में 900 प्रतिशत की वृद्धि हुई है। भारत में 45 करोड़ से अधिक इंटरनेट मीडिया यूजर्स हैं, इससे यहां व्यापक डिजिटल कम्युनिटी को एआई कंटेंट से प्रभावित किया जा सकता है। इसके लिए एआई जेनरेटेड फोटो, वीडियो और आडियो पर लेबल अनिवार्य होना चाहिए, ताकि यूजर्स वास्तविक कंटेंट के भेद को समझ पाएं। दूसरा, स्कैम, फेक न्यूज या ठगी के लिए प्रयोग होने वाले एआई कंटेंट पर सख्त नियम और त्वरित कार्रवाई तय होने चाहिए। इंटरनेट मीडिया कंपनियों को जवाबदेह बनाने की जरूरत है। ईमेल स्पैम फिल्टर की तरह डीपफेक वीडियो के लिए भी फिल्टर होना चाहिए। अंततः लोगों में जागरूकता सबसे जरूरी है, लोगों को फारवर्ड करने से पहले उसे जांचने की आदत डालनी चाहिए। सही संतुलन से एआई का हम बेहतर उपयोग कर पाएंगे।
– प्राजक्ता कुलकर्णी, असिस्टेंट वाइस प्रेसिडेंट, फाइंडेबिलिटी साइंसेज