तकनीक का जितना फायदा नहीं होता उससे ज्यादा नुकसान होने लगता है। बीते दिनों एक रिपोर्ट आई कि आर्टिफिशियल इंटेलिजेंस की मदद के लिए कुछ लोगों के नकली आधार व पैन कार्ड बनाने का प्रयास किया जिससे इस क्षेत्र के विशेषज्ञों को चिंता सताने लगी। वहीं आजकल अपनी फोटो को चैट जीपीटी द्वारा कलात्मक व आकर्षक बनाने के लिए लोग इसका जमकर प्रयोग कर रहे हैं जो आजकल बहुत ट्रेंड कर रहा है। हाल ही में सोशल मीडिया पर गूगल जेमिनी का (बनाना एआई साड़ी ट्रेंड) वायरल हो रहा है जिसमें यूसर्ज अपनी फोटो को एआई की मदद से साड़ी में बदल रहे हैं। बीते दिनों एक महिला ने इंस्टाग्राम पर बताया कि उसने इस ऐप का प्रयोग किया और साड़ी वाली तस्वीर बनवाई, लेकिन एआई ने उसकी शरीर के उस हिस्से का तिल दिखा दिया जो अपलोड की गई फोटो में नजर नहीं आ रहा था। इस बात से महिला बहुत भयभीत हो गई और इस घटना को डरावना बताया। लोगों को भी चेताया कि बिना सोचे समझे अपनी फोटो का इस तरह के एप्स पर न डालें। एक लड़का जो किसी लड़की को चाहता था, लेकिन लड़की उसको पसंद नहीं करती थी, उसने एआई की मदद से अपना और उसका फोटो को मिलाकर किसिंग वाला वीडियो बना दिया और उस लड़की के रिश्तेदार व दोस्तों को सेंड कर दिया, जिससे उसकी इमेज पर बड़ा डेंट पड़ा।
दरअसल, आज भी एक आयु वर्ग एआई से परिचित नहीं है, तो कुछ लोगों ने उसको असली मान लिया, जिससे वह लड़की को ही गलत समझने लगे। स्थिति यह थी कि लड़की आत्महत्या करने की कोशिश करने लगी, लेकिन उसको बचा लिया। यह एक छोटी सी घटना है लेकिन देशभर में हर रोज ऐसी सैकड़ों घटनाएं हो रही है जिससे लोगों की इज्जत व जान जा रही है। इसके अलावा एक शर्मसार करने वाले घटना सामने आई जिसमें देश के बडे-बडे संतों व कथावाचकों के साथ पोर्न स्टार से बात करते हुए व अश्लील हरकत करते हुए वीडियो बना दिए। इस घटना से समाज में एक नकारात्मकता फैली व भक्त बहुत नाराज हुए।
बीते 9 सितंबर 2025 को अभिनेत्री ऐश्वर्या राय ने दिल्ली हाईकोर्ट का रुख किया और व्यक्तियों व प्लेटफॉर्मों को आर्टिफिशियल इंटेलिजेंस एआई अन्य तरीकों से उनकी छवि, पहचान और व्यक्तित्व के दुरुपयोग से रोकने की मांग की। उनकी ओर से वरिष्ठ अधिवक्ता संदीप सेठी, वकील प्रवीण आनंद और ध्रुव आनंद पेश हुए। उन्होंने दलील दी कि ऐश्वर्या राय बच्चन का नाम और चेहरा उनकी अनुमति के बिना इस्तेमाल किया जा रहा है। यहां तक कि उनके नाम पर कथित रूप से पैसे भी वसूले जा रहे हैं। सेठी ने अदालत को बताया कि उनकी छवि का आनलाइन इस्तेमाल यहां तक किया जा रहा है कि किसी की ‘यौन इच्छाओं की पूर्ति’ हो सके, जिसे उन्होंने ‘बेहद दुर्भाग्यपूर्ण’ बताया। ऐश्वर्या की याचिका ने भारत के मनोरंजन उद्योग में डीपफेकऔर एआई जनित कंटेंट से बढ़ते खतरे को उजागर किया है।
ऐश्वर्या राय से पहले, बॉलीवुड के दिग्गज जैकी श्रॉफ ने मई में अदालत का रुख किया था। उनका आरोप था कि उनके नाम पर मर्चेंडाइज बेचना और उनके विकृत वीडियो बनाने जैसी गतिविधियां प्रथम दृष्टया, उनकी शख्सियत और पब्लिसिटी राइट्स के ‘अनधिकृत शोषण’ के माध्यम से व्यावसायिक लाभ कमाने के प्रयास लगते हैं। अदालत ने उनके व्यक्तित्व और पब्लिसिटी अधिकारों की सुरक्षा की थी। हाल के महीनों में कई बड़े सितारों ने भी अपनी पहचान की सुरक्षा के लिए इसी तरह के कदम उठाए हैं। 2023 में अनिल कपूर ने दिल्ली हाईकोर्ट से अपने नाम, आवाज और मशहूर डायलॉग ‘झक्कास’ के दुरुपयोग पर रोक का आदेश हासिल किया था। उसी समय अमिताभ बच्चन ने भी अपनी पहचान के अनधिकृत इस्तेमाल से सुरक्षा प्राप्त की थी।
आज देश में आस्था की दुनिया में प्रख्यात संत प्रेमानंद देश के बड़े संत हैं। कुछ लोगों ने उनको भी नहीं छोड़ा। उनके प्रसारित प्रवचन का कुछ लोग आर्टिफिशियल इंटेलीजेंससे दुरुपयोग कर रहे हैं। एआई की मदद से उनके प्रवचन को दूसरी भाषाओं में प्रसारित कर रहे हैं। दरअसल एआई के दुरुपयोग से लगातार अनैतिक गतिविधियों से खास से लेकर आम आदमी तक परेशान हो रहा है। कुछ शरारती तत्व तत्व इसका गलत इस्तेमाल करके लोगों को परेशान कर रहे हैं। इससे निजता का भी हनन हो रहा है व इसके अलावा अन्य कई तरह के संकट बढ़ते जा रहे हैं। इसके लिए जल्द ही कोई ठोस नीति बनानी चाहिए चूंकि यह एक ऐसा तंत्र बन चुका है जिसकी वजह से बहुत लोगों की जीवन में परेशानी आ रही है। इसके दुरुपयोग होने पर कड़े कानून तो बनने चाहिए साथ में ऐसे भी फीचर्स होने चाहिए जिससे कि कोई किसी की फोटो व अन्य दस्तावेजों का दुरुपयोग न कर सके। यह बेहद दुर्लभ है, क्योंकि इस प्रकरण में निजता की पर प्रहार हो रहा है।