अब प्रधानमंत्री का भी डीपफेक वीडियो आया, AI टेक्नोलॉजी पर PM ने जताई चिंता

डीपफेक ने प्रधानमंत्री नरेंद्र मोदी को भी परेशान कर दिया है. उनका एक वीडियो इन दिनों यू-ट्यूब सहित सभी सोशल मीडिया प्लेटफॉर्म्स पर खूब पॉपुलर हो रहा है, इसमें उनको गरबा करते दिखाया गया है. ये पूरा वीडियो डीपफेक नाम की आर्टिफिशियल इंटेलिजेंस से तैयार किया गया है.

भारतीय जनता पार्टी के मुख्यालय में दिवाली मिलन कार्यक्रम में पत्रकारों को संबोधित करते हुए प्रधानमंत्री ने कहा कि, "डीपफेक बहुत बड़ा संकट पैदा कर सकता है. इससे जैसा चाहे वीडियो तैयार किया जा सकता है. मेरा एक वीडियो तैयार किया गया है जिसमें मैं गरबे गा रहा हूं. मैंने देखा क्या बढ़िया वीडियो बनाया है. AI की ताकत से ये वीडियो बना है."

प्रधानमंत्री ने आगे कहा कि, "AI एक चिंता का विषय है. भारत जैसे विविधता वाले देश में, जहां छोटी-छोटी बातों पर लोगों की भावनाओं को ठेस लग जाती है, वहां ये संकट पैदा कर सकता है. AI या चैट GPT जैसे किसी टेक्नोलॉजी से बने प्रोडक्ट्स पर भी वैधानिक चेतावनी लिखी जानी चाहिए कि 'ये डीपफेक से बना है'. इस तरह की वैधानिक चेतावनी सिगरेट के पैकेट पर लिखी होती है."

डीपफेक से खतरा क्यों

आर्टिफिशियल इंटेलिजेंस की मदद से किसी के ओरिजनल वीडियो पर किसी दूसरे के चेहरे को लगा देने को डीपफेक कहते हैं. डीप फेक की मदद से वीडियो और फोटो बनाया जाता है. इसमें आवाज को भी मोडिफाई किया जा सकता है. डीपफेक टेक्नोलॉजी में आर्टिफिशियल इंटेलिजेंस और मशीन इंटेलिजेंस का इस्तेमाल किया जाता है.

काजोल का भी डीपफेक आ गया

रश्मिका मंदाना के बाद अब काजोल का भी डीपफेक सोशल मीडिया पर आ गया है. इसमें उनको कपड़े बदलते दिखाया गया है. इसमें ओरिजनल वीडियो ब्रिटिश सोशल मीडिया इन्फ्लुएंसर रोजी ब्रीन (Rosie Breen) का है. उन्होंने ये वीडियो टिकटॉक पर 'गेट रेडी विद मी' सीरीज के लिए बनाया था.

रश्मिका मंदाना मामले में एक्शन

रश्मिका मंदाना के डीपफेक वीडियो पर दिल्ली महिला आयोग ने स्वत संज्ञान लेते हुए दिल्ली पुलिस में मामला दर्ज कराया है. इस मामले में एक गिरफ्तारी भी हो चुकी है. सरकार ने भी इस मामले में सोशल मीडिया प्लेटफॉर्म्स से जवाब मांगा है.