संयुक्त राष्ट्र ने डीपफेक और गलत सूचना रोकने के लिए कड़े मानकों की वकालत की

जिनेवा में आयोजित “एआई फॉर गुड समिट” में शुक्रवार को जारी एक रिपोर्ट में अंतर्राष्ट्रीय दूरसंचार संघ (आईटीयू) ने चेतावनी दी कि कंपनियों को चुनावी हस्तक्षेप और वित्तीय धोखाधड़ी के बढ़ते खतरों से निपटने के लिए डीपफेक और गलत सूचना का पता लगाने वाले उन्नत उपकरणों का इस्तेमाल करना चाहिए। रिपोर्ट के मुताबिक, एआई से जनरेट की गई तस्वीरें, वीडियो और ऑडियो जो असली लोगों की पहचान की नकल करते हैं, बड़ा खतरा पैदा कर रहे हैं।

सोशल मीडिया प्लेटफॉर्म्स की भूमिका पर सवाल

आईटीयू ने मैनिपुलेटेड मल्टीमीडिया से निपटने के लिए मजबूत मानकों की मांग की है। साथ ही, सोशल मीडिया प्लेटफॉर्म जैसे कंटेंट डिस्ट्रीब्यूटर्स को शेयर करने से पहले तस्वीरों और वीडियो की प्रामाणिकता जांचने के लिए डिजिटल वेरिफिकेशन टूल्स का इस्तेमाल करने की सिफारिश की गई है।

आईटीयू के स्टैंडर्डाइजेशन ब्यूरो में स्टडी ग्रुप्स डिपार्टमेंट के प्रमुख बिलेल जमौसी ने कहा, “सोशल मीडिया पर भरोसा काफी कम हो गया है क्योंकि लोगों को पता नहीं चल पाता कि क्या सच है और क्या झूठ।” उन्होंने जनरेटिव एआई की वजह से बनने वाले यथार्थवादी मल्टीमीडिया को डीपफेक्स से लड़ने में सबसे बड़ी चुनौती बताया।

डिजिटल कंटेंट की ‘प्रोवेनेंस’ क्यों जरूरी है?

एडोब के लियोनार्ड रोजेंथोल, जिनकी कंपनी 2019 से डीपफेक्स के मुद्दे पर काम कर रही है, ने डिजिटल कंटेंट की विश्वसनीयता साबित करने के लिए उसकी उत्पत्ति (प्रोवेनेंस) स्थापित करने पर जोर दिया। उन्होंने कहा, “जहां यूजर्स कंटेंट देखते हैं, उन प्लेटफॉर्म्स को यह जानकारी दिखानी चाहिए… जब आप फीड स्क्रॉल कर रहे हों, तो आप जानना चाहेंगे कि क्या इस तस्वीर या वीडियो पर भरोसा किया जा सकता है।”

वैश्विक समाधान की जरूरत

डिजिटल गवर्नेंस रिसर्च फर्म डिजिटल मेडुसा की संस्थापक डॉ. फरजानेह बदीई ने इस समस्या के लिए वैश्विक दृष्टिकोण की आवश्यकता पर बल दिया। उन्होंने रॉयटर्स को बताया, “अगर हमारे पास मानकों और समाधानों का कोलाज होगा, तो हानिकारक डीपफेक्स और अधिक प्रभावी हो सकते हैं।” फिलहाल, मैनिपुलेटेड मटीरियल का पता लगाने के लिए कोई एक अंतर्राष्ट्रीय वॉचडॉग नहीं है।

वीडियो वॉटरमार्किंग पर काम

आईटीयू वीडियो के लिए वॉटरमार्किंग मानक विकसित कर रहा है, जो इंटरनेट ट्रैफिक का 80% हिस्सा हैं। इससे क्रिएटर की पहचान और टाइमस्टैम्प जैसी प्रोवेनेंस डेटा एम्बेड की जा सकेगी। स्विट्जरलैंड स्थित उमानिटेक के संस्थापक टोमाज लेवक ने निजी क्षेत्र से सुरक्षा उपायों को लागू करने और यूजर्स को शिक्षित करने का आग्रह किया।

एआई के साथ बढ़ती चुनौतियां

लेवक ने चेतावनी देते हुए कहा, “एआई और अधिक शक्तिशाली, तेज़ और चतुर होता जाएगा… हमें लोगों को शिक्षित करना होगा ताकि वे इसके शिकार न बनें।” शायद यही वह बिंदु है जहां तकनीक और जागरूकता दोनों की भूमिका बराबर की हो जाती है।

तो कुल मिलाकर, स्थिति गंभीर है, लेकिन नामुमकिन नहीं। बस जरूरत है कि सभी हितधारक मिलकर काम करें – और शायद थोड़ी जल्दी करें।