रश्मिका मंदाना के डीपफेक से मचा बवाल, सरकार ने वीडियो हटाने के लिए जारी की एडवाइजरी

डीपफेक... ये शब्द सोशल मीडिया पर फिर से सुनाई देने लगा है. हाल ही में रश्मिका मंदाना (Rashmika Mandanna) का एक डीपफेक वीडियो वायरल हुआ, जिसके बाद इस तकनीक पर विवाद तो गरमा ही रहा है, साथ ही इस पर बहस भी छिड़ गई है.

रश्मिका मंदाना का वायरल डीपफेक वीडियो दरअसल जारा पटेल का है, जो इंग्लैंड में रहने वाली भारतीय इंफ्लुएंसर हैं. उन्होंने 9 अक्टूबर को अपने इंस्टाग्राम हैंडल से एक वीडियो अपलोड किया.

इसी वीडियो में रश्मिका मंदाना की शक्ल को बहुत साफ तरीके से लगाया गया है, जो वायरल हो गया.

बीते दिन ही रश्मिका ने इस वीडियो पर अपनी प्रतिक्रिया दी. उन्होंने सोशल मीडिया प्लेटफॉर्म ट्विटर यानी X पर लिखा, 'मुझे अपने डीपफेक वीडियो के ऑनलाइन शेयर किए जाने पर बेहद दुःख हो रहा है. ये न केवल मेरे लिए बल्कि उन सभी के लिए बेहद डराने वाला है, जो टेक्नोलॉजी का इस तरह का भद्दा इस्तेमाल होते हुए देखकर परेशान हो रहे हैं. किसी और की निजता इस तरह से प्रभावित हो, उसके पहले हमें इस मामले को अर्जेंट तरीके से हैंडल करना चाहिए.'

रश्मिका के इस डीपफेक वीडियो के बाद सोशल मीडिया पर बॉलीवुड अभिनेता अमिताभ बच्चन ने कानूनी कार्रवाई की मांग की है.

अभी रश्मिका मंदाना का डीपफेक वीडियो का मामला थमा नहीं था कि कैटरीना कैफ की डीपफेक तस्वीर का मामला भी सामने आ गया है.

इन कानूनी कार्रवाई के पेंच में फंसे लेकिन इसके पहले जान लेते हैं कि फिलहाल इस पर क्या किया जा सकता है.

सरकार का रुख

रश्मिका के डीपफेक वीडियो के बाद सरकार ने सभी सोशल मीडिया कंपनियों को एजवाइजरी जारी की है. केंद्र ने सभी सोशल मीडिया कंपनियों को रश्मिका मंदाना के डीपफेक वीडियो को सभी प्लेटफॉर्म से हटाने की मांग की है.

केंद्र ने सभी सोशल मीडिया कंपनियों से सुनिश्चित करने को कहा कि गलत सूचना और डीपफेक की पहचान के लिए उचित प्रयास करें.

• किसी ऐसे कॉन्टेंट, जिसको रिपोर्ट किया जाता है, उसे 36 घंटे के भीतर अपने सोशल मीडिया प्लेटफॉर्म से हटा दें.

• IT नियम 2021 के अंतर्गत निर्धारित समय सीमा के भीतर त्वरित कार्रवाई करें.

• ऐसा न करने की स्थिति में सूचना प्रौद्योगिकी अधिनियम, 2000 की धारा 79(1) के अंतर्गत सरकार कार्रवाई कर सकती है.

केंद्रीय राज्य मंत्री राजीव चंद्रशेखर ने इस डीपफेक वीडियो के संबंध में ट्विटर पर लिखा, 'मोदी सरकार इंटरनेट इस्तेमाल करने वाले सभी डिजिटल नागरिकों को सुरक्षा और भरोसा सुनिश्चित करती है. अप्रैल 2023 में आए संशोधित IT नियमों के अनुसार, सरकार या यूजर द्वारा रिपोर्ट की गई किसी भी गलत सूचना को 36 घंटे के अंदर सोशल मीडिया प्लेटफॉर्म को हटाना होगा. ऐसा नहीं करने पर IPC के अंतर्गत इस ऐप या प्लेटफॉर्म के खिलाफ कानूनी प्रक्रिया अपना जा सकती है.'

ये तो हुई कानून से जुड़ी बातें, लेकिन टेक्नोलॉजी से जुड़ी बड़ी-बड़ी कंपनियां इस परेशानी से निपटने की कोशिश कर रही हैं. इंटेल ने बीते साल रियल-टाइम डीपफेक डिटेक्टर लॉन्च किया है.

https://www.intel.com/content/www/us/en/newsroom/news/intel-introduces-real-time-deepfake-detector.html

इंटेल का कहना है कि ये फैक्टकैचर, 95% एक्यूरेसी रेट के साथ फेक वीडियोज को पहचान सकता है. इंटेल लैब्स के सीनियर स्टाफ रीसर्च साइंटिस्ट इल्के डेमीर कहते हैं, 'अब तो डीपफेक वीडियोज हर जगह मौजूद हैं. आपने भी इन्हें कहीं न कहीं देखा ही होगा जिनमें कोई सेलेब्रिटी कुछ ऐसा कर रहे होंगे या कह रहे होंगे, जो उन्होंने शायद ही कभी किया है.'

गूगल ने कुछ महीने पहले AI जेनेरेटेड तस्वीरों को पहचानने और उकी वॉटरमार्किंग करने के लिए SynthID नाम के टूल का बीटा-वर्जन लॉन्च किया है. https://deepmind.google/discover/blog/identifying-ai-generated-images-with-synthid/

क्या हैं डीपफेक?

डीपफेक एडवांस्ड आर्टिफीशियल इंटेलीजेंस (AI) की मदद से बनाए जाते हैं, जिसमें ओरिजिनल वीडियो के ऑडियो या वीडियो को डिजिटल तरीके से हेर-फेर करके फर्जी कॉन्टेंट बनाया जाता है. कई बार ये वीडियो किसी एक्टर, नेता या किसी सेलेब्रिटी की छवि बिगाड़ने के लिए, अपने फायदे के लिए और कई बार हंसी मजाक के लिए बनाया जाता है. ये किसी भी शख्स की प्राइवेसी और छवि को भयंकर नुकसान पहुंचा सकता है.

BQ Prime को पहले दिए गए इंटरव्यू में IP लॉ फर्म के मैनेजिंग पार्टनर प्रवीण आनंद ने कहा, 'अपने निजी फायदे के लिए आर्टिफीशियल इंटेलीजेंस ने डीपफेक और जेनेरेटिव AI के जरिए सेलेब्रिटी की निजी जिंदगी को बर्बाद करने के काम को बहुत आसान कर दिया है.'

BDO इंडिया में पार्टनर सोमन दत्ता ने कहा है, इस समय डीपफेक से निपटने के लिए एक रेगुलेटर की जरूरत है. ये ऐसे मौके पर और ज्यादा जरूरी हो जाता है, जब किसी आम आदमी के साथ ये घटना होती है. भारत जैसे देश में डीपफेक के खिलाफ विशेष कानून बनाना जरूरी है, जहां पर 140+ करोड़ की आबादी सोशल मीडिया प्लेटफॉर्म्स पर अपनी मौजूदगी दर्ज करा रही है.

बतौर यूजर ये जानना भी जरूरी है कि आप किसी वीडियो के डीपफेक होने को किस तरह पहचान सकते हैं.

1. सोर्स की खोज

किसी डीपफेक तस्वीर या वीडियो का स्क्रीनशॉट लेकर आप इसे images.google.com पर डाल कर तस्वीर के सोर्स को खोज सकते हैं.

2. अलग हाव-भाव

डीपफेक वीडियो में किसी शख्स के चेहरे के एक्सप्रेशन और हाव-भाव सामान्य से अलग नजर आते हैं. इसके साथ ही आंखों की पुतलियों की हरकत में भी अंतर नजर आएगा.

3. ब्लरनेस

डीपफेक वीडियो में आमतौर पर आसपास की जगहों में ब्लरनेस नजर आएगी. इसके साथ ही वीडियो में बैकग्राउंड भी सामान्य से अलग नजर आ सकता है.

4. लिप सिकिंग में अंतर

डीपफेक वीडियो में कहे जाने वाले शब्द और लिप सिकिंग में अंतर आ जाता है, जिसे आसानी से पहचाना जा सकता है. डीपफेक टेक्नोलॉजी वीडियो और ऑडियो को पूरी तरह से सिंक्रोनाइज नहीं कर पाती है.

5. अव्यवस्थित लाइटिंग और परछाई

डीपफेक वीडियो में लाइटिंग और किसी शख्स की परछाई सामान्य से कुछ अलग नजर आ सकती है. इस अंतर को देखकर डीपफेक वीडियो को पहचाना जा सकता है.

डीपफेक एक ऐसा हथियार है, जिसका आज रश्मिका के खिलाफ इस्तेमाल किया गया है. कल हम और आप या हमारे परिजनों के खिलाफ भी इसका गलत इस्तेमाल किया जा सकता है, ऐसे में जरूरी है कि हम सब मिलकर इस और इसकी तरह सभी आर्टिफिशियल इंटेलिजेंस (AI) पर लगाम लगाने की पुरजोर वकालत करें.