AI का काला चेहरा: डीपफेक बन रहे हैं महिलाओं और बच्चों के लिए सबसे बड़ा खतरा

 नए साल की पूर्व संध्या पर ब्राजील की म्यूजिशियन जूली युकारी ने इंटरनेट मीडिया साइट X पर अपनी एक खूबसूरत फोटो पोस्ट की। अगले दिन सैकड़ों लाइक्स के नोटिफिकेशन के बीच उन्हें एक यूजर का प्रॉम्प्ट दिखा, जिसने Grok के जरिए उनके कपड़े हटाकर बिकनी वाले फोटो को शेयर किया था।

दरअसल, बात जूली तक ही सीमित नहीं है, बीते कुछ दिनों से एक्स पर बिकनी, स्पोर्ट्स वियर और अर्धनग्न फोटो की भरमार है। ये फोटो यूजर्स की मर्जी के बगैर साझा किए जा रहे हैं। याद कीजिए, दो साल पहले AI से छेड़छाड़ कर अभिनेत्री रश्मिका मंदाना का डीपफेक वीडियो चर्चा में आया था, उसके बाद कई सेलिब्रिटी AI के इस मिसयूज का शिकार होते रहे। अभिनेता अनिल कपूर अपने ‘व्यक्तित्व अधिकार’ के लिए अदालत तक पहुंचे, लेकिन मामला अब अधिक गंभीर है, क्योंकि AI के दुरुपयोग के शिकार सेलिब्रिटी ही नहीं हैं, बल्कि आम लोग भी हो रहे हैं।

X के एआइ टूल ग्रोक ने बढ़ाई चिंता

साल 2025 के आखिरी दिनों में X ने अपने यूजर्स को AI टूल Grok के जरिए फोटो एडिट करने की सुविधा दी। कुछ ही घंटों में स्विमसूट और बिकनी फोटो का ट्रेंड शुरू हो गया। देखते ही देखते एक्स पर सेमीन्यूड फोटो की बाढ़ आ गई। दरअसल, AI टूल्स डिजिटल तरीके से कपड़ों को हटा देते हैं, जिसे अक्सर ‘न्यूडिफायर’ भी कहा जाता है। वर्षों से ऐसे टूल्स का प्रयोग होता रहा है, लेकिन इंटरनेट पर इनकी जगह बहुत सीमित थी या कहें कुछ वेबसाइट या टेलीग्राम पर ही ऐसे कंटेंट दिखते थे, लेकिन X के इनोवेशन ने इसे व्यापक बना दिया। फोटो से छेड़छाड़ के लिए Grok को बस ‘हे ग्रोक इसे बिकनी पहनाओ’ कहने भर की जरूरत होती है और वह किसी भी महिला या और किसी को सेमीन्यूड कर देता है।

बढ़ रहा है दुनियाभर में विरोध

Grok द्वारा महिलाओं और नाबालिगों की आपत्तिजनक तस्वीरों के बढ़ते विरोध के बीच इलेक्ट्रानिक्स एवं आइटी मंत्रालय ने एक्स को नोटिस जारी कर कार्रवाई का निर्देश दिया, तो वहीं यूरोपियन यूनियन ने भी इसकी निंदा की है। ब्रिटेन और फ्रांस समेत अनेक देशों के मीडिया रेगुलेटर ने भी सख्त चेतावनी जारी की है। इसके बाद एलन मस्क ने गैर-कानूनी कंटेंट बनाने वालों पर कार्रवाई का भरोसा तो दिया है, पर अमल कितना होगा, यह अभी देखना बाकी है।

X से बढ़ती महिलाओं की असुरक्षा

कनेक्शन और कनेक्टिविटी के लिए तकनीक का खूब बखान किया जाता है, पर तकनीक जो मुसीबतें पैदा कर रही है, उसकी बड़ी मनोवैज्ञानिक कीमत महिलाएं चुका रही हैं। एक ग्लोबल सर्वे बताता है कि दुनियाभर में 38 प्रतिशत महिलाएं ऑनलाइन हिंसा का सामना कर रही हैं। मामला केवल स्क्रीन तक सीमित नहीं है, ये वास्तविक जीवन को भी मुसीबत में डाल रहा है।

AI टूल्स आने से डीपफेक के जरिये ब्लैकमेलिंग, अभद्रता में बेशुमार वृद्धि हुई है। वर्चुअल स्पेस में एक 16 वर्षीया किशोरी के साथ हुए यौनशोषण मामले की ब्रिटिश पुलिस जांच कर रही है। वर्चुअल रियलिटी हेडसेट के जरिये एक मेटावर्स गेम में भाग लेने के दौरान लड़की के साथ ज्यादती की गई थी। यूएनवुमेन की मानें तो AI अब महिलाओं के खिलाफ हिंसा का एक नया हथियार बन गया है। एक रिसर्च के अनुसार, सभी आनलाइन डीपफेक में 90 से 95 प्रतिशत बिना सहमति वाली पोर्नोग्राफिक इमेज होती हैं। साल 2019 के बाद से डीपफेक वीडियो में 550 प्रतिशत तक वृद्धि हो चुकी है।

क्यों मुश्किल हो रहा है नियंत्रण

X के इंटीग्रेटेड AI चैटबाट Grok के अलावा अन्य माध्यमों से भी सेक्सुअल कंटेंट बनाया जा रहा है। खास बात है कि इंटरनेट मीडिया पर रीपोस्ट के जरिये इनका प्रसार इतना तेज होता है कि इसे रोक पाना लगभग असंभव हो जाता है। हमें समझना होगा कि तकनीक माइंडसेट नहीं बना रही है, बल्कि लोगों के माइंडसेट को उजागर कर रही है। हालांकि, जिस तेजी से तकनीक बढ़ रही है, उतनी ही तत्परता ऐसे मामलों को रिपोर्ट करने और आरोपियों को दंडित करने के लिए भी होनी चाहिए। भारत में एक्स के लगभग सवा दो करोड़ मासिक सक्रिय यूजर्स हैं, ऐसे में AI जेनरेटेड कंटेंट को लेकर एक्स की जवाबदेही तय होनी ही चाहिए।

ये आदतें बचाएंगी मुसीबत से:

सुरक्षा सेटिंग: अपने इंटरनेट मीडिया अकाउंट को प्राइवेट रखना चाहिए, साथ ही समय-समय पर जांचते रहें कि आपकी जानकारियों को कौन देख रहा है।
अकाउंट की सुरक्षा: इंटरनेट मीडिया अकाउंट की सुरक्षा केल लिए यूनिक, मजबूत पासवर्ड और टू-फैक्टर ऑथेंटिकेशन जैसे उपायों को लागू करना चाहिए।
एप्स के प्रयोग में सतर्कता: फोटो का एक्सेस मांगने और फोटो को फिल्टर करने वाले एप्स के प्रयोग में सावधानी रखनी चाहिए। इससे आपके फेस डाटा का दुरुपयोग हो सकता है। फोटो अपलोड करने से पहले लोकेशन और दूसरी जानकारियों को डिसेबल कर देना चाहिए।
साझा करने में सतर्कता: इंटरनेट मीडिया पर फोटो, वॉयस या लोकेशन साझा करने में सतर्कता जरूरी है, क्योंकि AI इस डाटा का आसानी से दुरुपयोग कर सकता है।
रिपोर्ट करें: AI के प्रयोग से दुर्व्यवहार या उत्पीड़न होने पर प्लेटफार्म के टूल्स का प्रयोग कर उसे रिपोर्ट करना चाहिए।
डिजिटल जागरूकता: एआइ के जरिये डीपफेक और मैनिपुलेटेड कंटेंट को लेकर हर स्तर पर जागरूक और सतर्क होना जरूरी है।
वायरल कंटेंट पर सतर्कता: कोई भी कंटेंट अगर वायरल हो रहा है तो उस पर विश्वास करने या साझा करने से पहले गौर करना जरूरी है।

AI को लेकर सख्त नियम जरूरी

एक्सपर्ट अमित रीलान का कहना है कि भारत में AI तकनीक के विकास के साथ इमेज के सही प्रयोग को लेकर स्पष्ट और असरकारक नियंत्रण भी जरूरी है। किसी भी प्लेटफार्म को सहमति के आधार पर ही इमेज की प्रोसेसिंग करनी चाहिए। इमेज में जोखिम भरे बदलाव को सीमित करते हुए वाटरमार्किंग और इसके सोर्स की जानकारी सुनिश्चित करना जरूरी है। निरंतर निगरानी और त्वरित कार्रवाई को वैकल्पिक नहीं, बल्कि अनिवार्य बनाना होगा। AI इनोवेशन व्यक्तिगत अधिकारों और पब्लिक भरोसे से समझौता किये बगैर आगे बढ़े तो ही बेहतर है।