Year Ender 2023: AI के गलत इस्तेमाल ने बढ़ाई चिंता! क्या 2024 के लिए सबसे बड़ी चुनौतियों में शामिल होगा डीपफेक?

चेहरा और आवाज...ये इंसान की वो पहचान हैं जो उसे दुनिया में औरों से अलग बनाते हैं. क्या हो अगर ये ही कोई चुरा ले? यकीन मानिए बड़ी मुसीबत में फंस जाएंगे आप. कोई आपके चेहरे और आवाज का इस्तेमाल कर के आपकी गाढ़ी कमाई पर डाका डाल सकता है तो कोई आपको किसी ऐसे जुर्म के आरोप में फंसा सकता है जो आपने किया ही नहीं. इस नई चिंता का नाम है- डीपफेक !

एक ऐसी मुसीबत जिसने सेलेब्रिटीज से लेकर PM मोदी तक को परेशान कर रहा है. बॉलीवुड सेलेब्रिटीज, रश्मिका मंदाना (Rashmika Mandanna) और काजोल (Kajol) भी टेक्नोलॉजी के इस नए दंश को झेल चुकी हैं.

कुछ दिन पहले PM मोदी का गरबा करते हुए एक वीडियो वायरल हुआ. जिसके बाद खुद प्रधानमंत्री मोदी ने कहा, "AI एक चिंता का विषय है. भारत जैसे विविधता वाले देश में, जहां छोटी-छोटी बातों पर लोगों की भावनाओं को ठेस लग जाती है, वहां ये संकट पैदा कर सकता है. AI या ChatGPT जैसे किसी टेक्नोलॉजी से बने प्रोडक्ट्स पर भी वैधानिक चेतावनी लिखी जानी चाहिए कि 'ये डीपफेक से बना है'. इस तरह की वैधानिक चेतावनी सिगरेट के पैकेट पर लिखी होती है".

सरकार पूरी तरह सतर्क !

सरकार इस नए संकट से निपटने के लिए पूरी तरह सतर्क है. 26 दिसंबर को मिनिस्ट्री ऑफ इलेक्ट्रॉनिक्स एंड इन्फॉर्मेशन टेक्नोलॉजी (MeitY) ने सभी सोशल मीडिया इंटरमीडियरीज को फॉर्मल एडवाइजरी जारी करते हुए कुछ बेहद जरूरी बातों पर जोर दिया. एडवाइजरी में कहा गया कि वैसे कंटेंट जिनकी अनुमति IT नियमों खासकर नियम 3(1)(b) में नहीं दी गई है, उसकी जानकारी यूजर्स को साफ तरीके से दी जानी चाहिए. यूजर्स को ये जानकारी उनके पहले रजिस्ट्रेशन पर देने के साथ-साथ निश्चित समय अंतराल पर या कोई कंटेंट अपलोड करते वक्त उन्हें ये दोबारा याद दिलाया जाना चाहिए.

इस एडवाइजरी में इस बात पर भी जोर दिया गया कि डिजिटल इंटरमीडियरीज को सुनिश्चित करना होगा कि यूजर्स को नियम 3(1)(b) के उल्लंघन के लिए IPC और IT अधिनियम 2000 में कौन से दंड के प्रावधान हैं.

इसके पहले, 7 नवंबर को केंद्र सरकार ने सभी सोशल मीडिया प्लेटफॉर्म्स को एक एडवाइजरी जारी की. सरकार ने इन प्लेटफॉर्म्स से कहा कि वो डीपफेक और गलत जानकारियों की पहचान के लिए कदम उठाएं. सरकार ने निर्देश दिया कि रिपोर्ट होने के 36 घंटे के अंदर इस तरह के कंटेंट को हटाया जाए और IT नियम 2021 के तहत निश्चित समयसीमा में एक्शन भी लिया जाए.

क्या कहते हैं साइबर सिक्योरिटी एक्सपर्ट्स?

साइबर सिक्योरिटी पर काम करने वाली कंपनी CYFIRMA के फाउंडर और CEO, कुमार रितेश का मानना है, 'मशीन लर्निग एल्गो का इस्तेमाल कर के हम बेहतरीन डिटेक्शन टूल्स डेवलप कर सकते हैं जो फेशियल डायनेमिक्स और वोकल पैटर्न में फर्क का पता लगाकर डीपफेक की पहचान कर सकते हैं. रितेश आगे कहते हैं "इस मैकेनिज्म को मजबूत बनाने के लिए टेक्नोलॉजिस्ट, रिसर्चर्स और सरकारी संस्थाओं के बीच कोलैबोरेशन की भी जरूरत है. टेक्नोलॉजी के अलावा लोगों के बीच जागरुकता फैलाना भी उतना ही जरूरी है. डिजिटल कंटेंट की प्रामाणिकता के लिए एक बड़े पब्लिक अवेयरनेस कैंपेन की भी जरूरत है.

वहीं साइबर सिक्योरिटीज से जुड़ी एक और कंपनी, Sequretek के को-फाउंडर और CEO, पंकित देसाई का कहना है, 'डीपफेक टेक्नोलॉजी (Deepfake), साइबर अटैक्स (Cyber Attacks) के रूप में एक बड़ा खतरा पैदा कर रही है क्योंकि इससे आसानी से पकड़ में नहीं आने वाले फेक वीडियो (Fake Video) और ऑडियो रिकॉर्डिंग्स बनाई जा सकती हैं'.

इसके समाधान पर बात करते हुए पंकित का कहना है कि इससे लड़ने के लिए टेक्नोलॉजी और जागरुकता दोनों को साथ साथ लाना होगा. सोशल मीडिया प्लेटफॉर्म्स डीपफेक कंटेंट को रेगुलेट करने और इन्हें सीमित करने में अहम रोल प्ले कर सकती हैं क्योंकि ये प्लेटफॉर्म्स डीपफेक कंटेंट के फैलने का एक बड़ा जरिया हैं.

आप क्या करें?

डिजिटल की दुनिया जहां हमारी जिंदगी आसान बनाती है वहीं गलत इस्तेमाल करने पर ये हमें मुसीबत में भी डाल सकती है. आर्टिफिशियल इंटेलिजेंस (Artificial Intelligence) और मशीन लर्निंग (Machine Learning) के इस युग में आमलोगों को भी सावधानियां बरतने की जरूरत है.

• बिना सत्यता जाने कोई भी वीडियो फॉरवर्ड ना करें.

• सोशल मीडिया पर कोई भी कंटेंट अपलोड करने से पहले सुनिश्चित कर लें कि आप जो कंटेंट शेयर कर रहे हैं वो देश के IT नियमों का उल्लंघन तो नहीं करता.

• अपने बैंक अकाउंट की सेफ्टी के लिए पासवर्ड मजबूत रखें और मल्टी-फैक्टर ऑथेंटिकेशन का इस्तेमाल करें.

• किसी भी तरह के साइबर अटैक या फ्रॉड की शिकायत, साइबर अथॉरिटीज से जरूर करें.