नीतिगत प्रतिबंधों के बावजूद एप्पल और गूगल पर 'न्यूडिफाई' ऐप्स का प्रचलन जारी

शीर्ष सारांश

क्या हुआ: एप्पल और गूगल दोनों ही ऐसे ऐप्स को होस्ट और प्रमोट कर रहे हैं जो नग्न तस्वीरें बनाते हैं ("न्यूडिफाई" ऐप्स), जबकि उनकी नीतियां स्पष्ट रूप से इस तरह के कंटेंट के खिलाफ हैं।

यह क्यों महत्वपूर्ण है: इन ऐप्स का इस्तेमाल डीपफेक बनाने और वास्तविक लोगों को कामुक बनाने के लिए किया जा सकता है, जिससे उनकी प्रतिष्ठा और सुरक्षा को खतरा हो सकता है। कुछ ऐप्स को सभी उम्र के लोगों के लिए लेबल किया गया है।

लोगों के लिए क्या बदलता है: उपयोगकर्ता, जिनमें बच्चे भी शामिल हैं, अभी भी ऐसे ऐप्स के संपर्क में हैं जो स्पष्ट कंटेंट उत्पन्न कर सकते हैं, जिससे शोषण और दुरुपयोग की चिंता बढ़ रही है।

कौन प्रभावित है: वे व्यक्ति जिनकी तस्वीरों का उपयोग डीपफेक बनाने के लिए किया जाता है, वे बच्चे जो ऐप्स तक पहुंच सकते हैं, और एप्पल और गूगल स्वयं, जिन्हें प्रतिष्ठा और कानूनी जोखिमों का सामना करना पड़ रहा है।

प्रतिबंधों के बावजूद 'न्यूडिफाई' ऐप्स का प्रचलन जारी

पहले के खुलासों के बावजूद, "न्यूडिफाई" ऐप्स अभी भी एप्पल ऐप स्टोर और गूगल प्ले पर आसानी से उपलब्ध हैं। टेक्नोलॉजी ट्रांसपेरेंसी प्रोजेक्ट (TTP) की रिपोर्ट है कि इन ऐप्स को सक्रिय रूप से प्रमोट भी किया जा रहा है। कई को "E" (एवरीवन) लेबल किया गया है, जिससे वे बच्चों के लिए भी सुलभ हैं।

"न्यूडिफाई" और "अंडर्रेस" जैसे शब्दों की खोज करने पर ऐसे ऐप्स मिलते हैं जो नग्न तस्वीरें बना सकते हैं या उपयोगकर्ताओं को पोर्नोग्राफिक वीडियो में डाल सकते हैं।

क्या प्लेटफॉर्म डीपफेक से मुनाफा कमा रहे हैं?

टीटीपी का आरोप है कि एप्पल और गूगल "एआई उपकरणों के प्रसार में प्रमुख भागीदार हैं जो वास्तविक लोगों को कामुक छवियों में बदल सकते हैं।" ऐप स्टोर खोज परिणामों में समान ऐप्स के लिए विज्ञापन भी चला रहे हैं।

समूह ने एप्पल के ऐप स्टोर पर 18 और गूगल प्ले पर 20 न्यूडिफाई ऐप्स की पहचान की। इन ऐप्स ने सामूहिक रूप से लगभग 122 मिलियन डॉलर का राजस्व उत्पन्न किया है और 483 मिलियन बार डाउनलोड किए गए हैं।

"यह सिर्फ इतना नहीं है कि कंपनियां इन ऐप्स की उचित समीक्षा करने और उन्हें मंजूरी देना और उनसे लाभ कमाना जारी रखने में विफल हो रही हैं," टीटीपी निदेशक कैटी पॉल ने ब्लूमबर्ग को बताया। "वे वास्तव में उपयोगकर्ताओं को ऐप्स की ओर निर्देशित कर रहे हैं।"

नीति उल्लंघन और सीमित कार्रवाई

एप्पल और गूगल दोनों की ही नीतियां यौन या पोर्नोग्राफिक सामग्री पर प्रतिबंध लगाती हैं, जिसमें गूगल विशेष रूप से न्यूडिफाई ऐप्स को प्रतिबंधित करता है। एप्पल ने ब्लूमबर्ग को बताया कि उसने टीटीपी द्वारा पहचाने गए 15 ऐप्स को हटा दिया है, जबकि गूगल ने कहा कि उसने उनमें से कई को निलंबित कर दिया है। हालांकि, आसानी से उपलब्ध न्यूडिफाई ऐप्स की अंतर्निहित समस्या बनी हुई है।

समस्याग्रस्त ऐप्स के उदाहरण

एक ऐप, वीडियो फेस स्वैप एआई: डीपफेस, जिसे "E" (एवरीवन) रेटिंग दी गई है, उपयोगकर्ताओं को आंशिक रूप से नग्न महिलाओं पर चेहरे बदलने की अनुमति देता है। यह एक अभिनेत्री के चेहरे को दूसरी अभिनेत्री के शरीर पर बदलकर खुद का विज्ञापन करता है।

सरकारी हस्तक्षेप और कानूनी जांच

न्यूडिफाई और डीपफेक ऐप्स के प्रसार ने सरकारी कार्रवाई को प्रेरित किया है। यूके के बाल आयुक्त ने एआई डीपफेक ऐप्स पर प्रतिबंध लगाने का आह्वान किया है जो बच्चों की नग्न या यौन छवियां बनाते हैं। अमेरिका और अन्य देशों ने भी स्पष्ट डीपफेक पर प्रतिबंध लगाने वाले कानूनों का प्रस्ताव या निर्माण किया है। कैलिफोर्निया के अटॉर्नी जनरल ने हाल ही में एलोन मस्क के एक्स को ग्रोक के स्पष्ट डीपफेक पर एक सीज एंड डिजिस्ट ऑर्डर भेजा है।

आगे क्या देखना है

ऐप स्टोर पर अपनी नीतियों को लागू करने और हानिकारक डीपफेक तकनीक के प्रसार को रोकने के लिए बढ़ते नियामक दबाव की अपेक्षा करें। न्यूडिफाई ऐप्स और डीपफेक पर प्रतिबंध लगाने या प्रतिबंधित करने के लिए आगे विधायी प्रयास भी निकट भविष्य में होने की संभावना है, जिससे भाषण की स्वतंत्रता बनाम सार्वजनिक सुरक्षा के बारे में सवाल उठते हैं।