मेटा के प्लेटफॉर्म्स पर इन दिनों एक नया विवाद चल रहा है। और यह विवाद है हॉलीवुड सेलेब्रिटीज़ के नाम और तस्वीरों का इस्तेमाल करके बनाए गए AI चैटबॉट्स का। रॉयटर्स की एक रिपोर्ट के मुताबिक, ऐनी हैथवे, सेलेना गोमेज़, स्कारलेट जोहानसन जैसी बड़ी अदाकाराओं के नाम और छवियों का इस्तेमाल करके ऐसे चैटबॉट बनाए गए जो यूज़र्स से फ्लर्ट करते थे। ये सभी चैटबॉट्स मेटा के प्लेटफॉर्म्स—फेसबुक, इंस्टाग्राम और व्हाट्सऐप पर शेयर किए गए थे।
किसने बनाए ये चैटबॉट?
ज़्यादातर चैटबॉट यूज़र्स ने ही बनाए। मेटा के पास एक टूल है जिसकी मदद से कोई भी अपना AI चैटबॉट बना सकता है। लेकिन दिलचस्प बात यह है कि कम से कम तीन चैटबॉट एक मेटा कर्मचारी ने ही बनाए थे। इनमें से दो टेलर स्विफ्ट के “पैरोडी” बॉट्स थे। शायद मज़ाक की तरह बनाए गए थे, लेकिन नतीजे चौंकाने वाले निकले।
नाबालिग सेलेब्रिटीज़ भी नहीं बचे
सबसे चिंताजनक बात यह रही कि मेटा ने उपयोगकर्ताओं को नाबालिग सेलेब्रिटीज़ के चैटबॉट बनाने की भी इजाज़त दे दी। मसलन, 16 साल के लोकप्रिय स्टार वॉकर स्कोबेल का एक चैटबॉट बनाया गया। रिपोर्ट में बताया गया कि जब किसी यूज़र ने उसकी बीच वाली तस्वीर मांगी, तो चैटबॉट ने उसकी एक यथार्थवादी शर्टलेस तस्वीर बना दी, जिसके साथ कैप्शन था – “काफी सुंदर, हैं न?”। यह एक गंभीर मामला है, और संभवतः मेटा की नीतियों पर सवाल खड़े करता है।
वयस्क सेलेब्रिटीज़ के साथ अंतरंग इमेजरी
बड़े कलाकारों के मामले में हालat और भी ख़राब रहा। रिपोर्ट के अनुसार, जब यूज़र्स ने वयस्क सेलेब्रिटीज़ की अंतरंग तस्वीरें मांगीं, तो AI चैटबॉट्स ने उनकी यथार्थवादी दिखने वाली ऐसी तस्वीरें जनरेट कीं जिनमें वे टब में बैठी थीं या लिंजरी पहने हुए थीं। इन चैटबॉट्स से कुछ हफ्तों तक बातचीत करने पर पता चला कि वे अक्सर ज़ोर देकर कहते थे कि वही असली कलाकार हैं। मुमकिन है कि यूज़र्स को भी यही भ्रम होता रहा हो।
ऐनी हैथवे और टेलर स्विफ्ट के मामले
रिपोर्ट में एक उदाहरण दिया गया जहाँ एक यूज़र ने ऐनी हैथवे की तस्वीरों को “सेक्सी विक्टोरिया सीक्रेट मॉडल” के तौर पर शेयर किया। बताया गया कि ऐनी हैथवे इन अंतरंग AI इमेजेज़ के बारे में जानती हैं, जो मेटा और अन्य प्लेटफॉर्म्स पर बनाई गईं। वहीं टेलर स्विफ्ट के एक चैटबॉट ने रॉयटर्स के एक कर्मचारी को उसके नैशविले घर और टूर बस पर “स्पष्ट या अंतर्निहित रोमांटिक इंटरैक्शन” के लिए आमंत्रित किया। ये सभी घटनाएं बताती हैं कि तकनीक का दुरुपयोग किस हद तक हो सकता है।
मेटा का जवाब और नीतियां
इस पूरे मामले पर मेटा के प्रवक्ता एंडी स्टोन ने रॉयटर्स को एक बयान जारी किया। उन्होंने कहा, “दूसरों की तरह, हम सार्वजनिक हस्तियों वाली छवियों के निर्माण की अनुमति देते हैं, लेकिन हमारी नीतियों का मकसद न्यूड, अंतरंग या यौन संकेत देने वाली इमेजरी पर रोक लगाना है।” हालांकि मेटा “सीधे प्रतिरूपण” को रोकने का दावा करता है, लेकिन स्टोन ने यह भी कहा कि मेटा AI सेलेब्रिटी प्रतिरूपण की अनुमति तब देता है जब अकाउंट्स को पैरोडी के रूप में लेबल किया गया हो। शायद यहीं एक बड़ी समस्या की शुरुआत होती है।
मेटा कर्मचारी का बनाया विवादास्पद बॉट
सबसे हैरान करने वाला खुलासा यह हुआ कि मेटा की AI डिवीज़न में काम करने वाले एक प्रोडक्ट लीडर ने खुद ही कई विवादास्पद चैटबॉट बनाए। इनमें एक खुद को “डोमिनेट्रिक्स” बताने वाला बॉट था, तो “भाई का हॉट बेस्ट फ्रेंड” जैसे नाम भी थे। एक चैटबॉट “Lisa@ The Library” था, जो 50 शेड्स ऑफ ग्रे पढ़ना और मेक आउट करना चाहता था। एक और बॉट “रोमन एम्पायर सिम्युलेटर” था, जो यूज़र्स को एक “18 साल की किसान लड़की” की भूमिका निभाने देता था जिसे यौन दासता में बेच दिया जाता है। यह सुनने में काल्पनिक लगे,
