Govt to meet social media platforms on deepfake issue; immunity will not apply if steps are not taken | अश्विनी वैष्णव बोले- यह एक बड़ा मुद्दा, कल प्रधानमंत्री मोदी ने बताया था खतरनाक

हमने हाल ही में सभी बड़े सोशल मीडिया प्लेटफॉर्म्स को ऐसे कंटेंट की पहचान करने और हटाने के लिए कदम उठाने को कहा है। सोशल मीडिया ने कहा है कि हम एक्शन ले रहे हैं, लेकिन उन्हें ऐसे कंटेंट पर कार्रवाई करने के लिए और अग्रेशिव होना होगा।’

सोशल मीडिया प्लेटफॉर्म्स से मिलेगी सरकार
वैष्णव ने कहा कि अगर प्लेटफॉर्म डीपफेक को हटाने के लिए पर्याप्त कदम नहीं उठाते हैं तो उन्हें कानून के तहत जो सुरक्षा मिली हुई है उसे हटा लिया जाएगा। हम बहुत जल्द…शायद अगले 3-4 दिन में सभी सोशल मीडिया प्लेटफॉर्म्स से मिलने जा रहे हैं, जिसमें सुनिश्चित करेंगे कि प्लेटफॉर्म्स डीपफेक को रोकने के लिए पर्याप्त कोशिश करें और अपने मैकेनिज्म में सुधार करें।

प्रधानमंत्री डीपफेक टेक्नोलॉजी को बता चुके हैं फेक
इससे पहले कल यानी शुक्रवार को प्रधानमंत्री नरेंद्र मोदी ने डीपफेक टेक्नोलॉजी को खतरनाक बताया था। उन्होंने कहा था,’मैंने एक वीडियो देखा, जिसमें मैं गरबा गा रहा हूं। AI की ताकत से ये वीडियो बना है, लेकिन यह एक चिंता का विषय है। विविधता वाली सोसाइटी में, जहां छोटी-छोटी बातों पर लोगों की भावनाओं को ठेस लग जाती है। वहां यह संकट पैदा कर सकता है।

जब AI को बढ़ाने वाले लोग मुझसे मिले थे तो मैंने उन्हें कहा था कि जैसे सिगरेट में चेतावनी लिखी होती है। वैसे ही मैंने कहा कि जो भी इसका यूज करता है तो वहां एक चेतावनी लिखी होनी चाहिए कि ‘ये डीपफेक से बना है।’

डीपफेक क्या है?
आज के डिजिटल दौर में कई बार गलत खबरें और भ्रामक जानकारियां इंटरनेट की मदद से लोगों तक पहुंचाई जा रही हैं। ऐसे ही वीडियो भी पहुंचाए जाते हैं। इसे डीपफेक कहते हैं। इसमें असली और नकली की पहचान बेहद मुश्किल होती है। इसमें आर्टिफिशियल इंटेलिजेंस तकनीक (AI) और मशीन लर्निंग सॉफ्टवेयर का इस्तेमाल किया जाता है।

इनका उपयोग करके मीडिया फाइल जैसे फोटो, ऑडियो और वीडियो की परिवर्तित कॉपी तैयार की जाती है, जो वास्तविक फाइल की तरह ही दिखती है। सरल भाषा में कहें तो डीपफेक, मॉर्फ वीडियो का ही एडवांस रूप है।

डीपफेक में आर्टिफिशियल इंटेलिजेंस तकनीक (AI) और मशीन लर्निंग सॉफ्टवेयर की मदद से नकली को असली जैसा दिखाया जाता है।

रश्मिका मंदाना और काजोल का वायरल हो चुका है डीपफेक वीडियो
हाल ही में बॉलीवुड एक्ट्रेस रश्मिका मंदाना और काजोल का डीपफेक वीडियो सोशल मीडिया पर वायरल हुआ था। रश्मिका मंदाना के डीपफेक वीडियो पर अमिताभ बच्चन से लेकर खुद रश्मिका मंदाना तक ने हैरानी जताई थी।

एक x पोस्ट में रश्मिका ने लिखा था, ‘ईमानदारी से कहूं तो ऐसा कुछ न केवल मेरे लिए, बल्कि हममें से हर एक के लिए बेहद डरावना है। अगर मेरे साथ ये तब हुआ होता, जब में स्कूल या कॉलेज में थी, तो मैं इससे निपटने का सोच भी नहीं सकती थी।’ वहीं, काजोल का डीपफेक वीडियो वायरल होने के बाद उनके फैन्स ने नाराजगी जाहिर की थी।