डिजिटल युग में कृत्रिम बुद्धिमत्ता मानव जीवन को सहज और सशक्त बनाने का माध्यम बनी है, लेकिन जब यही तकनीक मर्यादा की सीमाएं लांघने लगे, तो समाज और कानून दोनों के सामने गंभीर प्रश्न खड़े हो जाते हैं। एआई टूल ग्रोक के जरिए बनाई गई अश्लील तस्वीरों को सोशल मीडिया मंच एक्स पर पोस्ट किए जाने से जुड़ा हालिया विवाद एक बार फिर डिजिटल युग में उभरती तकनीकों से पैदा हो रही जटिल चुनौतियों को उजागर करता है। भारत सरकार की ओर से इस पूरे मामले में दिखाई गई सख्ती ने एक स्पष्ट संदेश दिया है कि वैश्विक सोशल मीडिया कंपनियां भारत में मनमानी ढंग से काम नहीं कर सकतीं और उन्हें देश के कानूनों व नैतिक मानकों का पालन करना ही होगा। यह प्रकरण केवल किसी एक टूल या किसी एक प्लेटफॉर्म तक सीमित नहीं है, बल्कि यह तकनीकी नवाचार, अभिव्यक्ति की स्वतंत्रता और मानवीय गरिमा, विशेषकर महिलाओं की गरिमा के संरक्षण के बीच संतुलन स्थापित करने की व्यापक चुनौती को सामने लाता है।
पिछले कई दिनों तक एक्स पर महिलाओं की अश्लील और आपत्तिजनक तस्वीरें वायरल होती रहीं, जिन्हें एआई टूल ग्रोक की मदद से तैयार किया गया था। यह स्थिति तब और गंभीर हो गई, जब एक यूजर ने एआई की सहायता से एलन मस्क की बिकिनी पहने हुई एक तस्वीर बनाकर पोस्ट कर दी। इस घटना पर गंभीर चिंता जताने के बजाय एलन मस्क का रवैया हल्का-फुल्का दिखाई दिया। उन्होंने ग्रोक का बचाव करते हुए यह तर्क दिया कि कोई भी टूल, ठीक कलम की तरह, यह तय नहीं करता कि उसका इस्तेमाल कैसे किया जाएगा, जिम्मेदारी उसे इस्तेमाल करने वाले व्यक्ति की होती है। यह तर्क भले ही दार्शनिक दृष्टि से सही प्रतीत हो, लेकिन डिजिटल प्लेटफॉर्म की वास्तविकताओं को नजरअंदाज करता है, जहां किसी भी तरह का नुकसान बहुत तेजी से, बड़े पैमाने पर और गहरे प्रभाव के साथ फैलता है।
मस्क की इस प्रतिक्रिया ने व्यापक जनाक्रोश को जन्म दिया, क्योंकि इससे एआई के जरिए होने वाले यौन शोषण और निजता के उल्लंघन जैसे गंभीर मुद्दों को हल्के में लेने का संकेत मिला। एआई तकनीक का इस्तेमाल कर महिलाओं की असली तस्वीरों को अश्लील सामग्री में बदल देना कोई मजाक या शरारत नहीं है, बल्कि यह डिजिटल हिंसा का एक गंभीर रूप है। इसका असर पीड़ित महिलाओं के मानसिक स्वास्थ्य, सामाजिक प्रतिष्ठा और निजी जीवन पर गहरा और दीर्घकालिक हो सकता है। ऐसे में यह कहना कि सारी जिम्मेदारी केवल यूजर की है, एक अधूरा और गैर-जिम्मेदाराना दृष्टिकोण लगता है। जो प्लेटफॉर्म और कंपनियां ऐसे टूल बनाती हैं, उन्हें प्रचारित करती हैं और उनसे मुनाफा कमाती हैं, उनकी भी यह नैतिक और कानूनी जिम्मेदारी बनती है कि वे संभावित दुरुपयोग को रोकने के लिए ठोस उपाय करें।
इस मुद्दे ने तब राजनीतिक रूप भी ले लिया, जब राज्यसभा सांसद प्रियंका चतुर्वेदी ने केंद्रीय सूचना एवं प्रौद्योगिकी मंत्री अश्विनी वैष्णव को पत्र लिखकर इस गंभीर समस्या की ओर ध्यान दिलाया। उन्होंने पत्र में स्पष्ट रूप से कहा कि एआई टूल्स का इस्तेमाल कर महिलाओं की वास्तविक तस्वीरों को अश्लील कंटेंट में बदला जा रहा है, जो अत्यंत चिंताजनक और आपराधिक प्रकृति का मामला है। उन्होंने सरकार से इस पर तुरंत कार्रवाई करने की मांग की। यह पत्र इस बात का संकेत था कि देश के कानून निमार्ता सोशल मीडिया प्लेटफॉर्म्स पर मौजूद सुरक्षा तंत्र को अपर्याप्त मानने लगे हैं, खासकर तब, जब बात महिलाओं को एआई के जरिए हो रहे नए प्रकार के डिजिटल शोषण से बचाने की हो।
इन चिंताओं को गंभीरता से लेते हुए भारत सरकार ने एक्स को नोटिस जारी किया और 72 घंटे के भीतर जवाब मांगा कि कंपनी ने इस मामले में अब तक क्या कदम उठाए हैं। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने ग्रोक के दुरुपयोग पर गहरी आपत्ति जताई और कहा कि एक्स, सूचना प्रौद्योगिकी अधिनियम 2000 और आईटी नियम 2021 के तहत अपनी जिम्मेदारियों का सही ढंग से निर्वहन करने में विफल रहा है। इन कानूनों के तहत सोशल मीडिया मध्यस्थों पर यह स्पष्ट दायित्व है कि वे अवैध और आपत्तिजनक सामग्री को समय रहते हटाएं और यह सुनिश्चित करें कि उनके प्लेटफॉर्म का इस्तेमाल किसी की गरिमा को ठेस पहुंचाने या सार्वजनिक शालीनता को भंग करने के लिए न हो। सरकार की इस सख्त चेतावनी के बाद एक्स का रवैया बदला हुआ नजर आया। कंपनी ने मामले की गंभीरता को स्वीकार करते हुए कहा कि ग्रोक के जरिए बनाए गए किसी भी प्रकार के अश्लील कंटेंट को तुरंत हटाया जाएगा।
इसके साथ ही एक्स ने यह भी स्पष्ट किया कि यदि कोई यूजर एआई टूल का इस्तेमाल कर आपत्तिजनक या गैरकानूनी सामग्री बनाता और पोस्ट करता है, तो उसके खिलाफ वही कार्रवाई की जाएगी, जो सीधे अवैध कंटेंट अपलोड करने पर की जाती है। यानी ऐसे यूजर के अकाउंट को निलंबित या प्रतिबंधित किया जा सकता है। एक्स के इस बदले हुए रुख से यह साफ होता है कि जब नियामक संस्थाएं दृढ़ता से कदम उठाती हैं, तो दुनिया की सबसे ताकतवर टेक कंपनियों को भी कानून के आगे झुकना पड़ता है।
यह भी ध्यान देने योग्य है कि ग्रोक पहली बार विवादों में नहीं आया है। इससे पहले भी भारत में इस एआई टूल पर आरोप लग चुके हैं कि उसने नेताओं और मंत्रियों से जुड़े सवालों के जवाब में अपमानजनक और अभद्र भाषा का प्रयोग किया। बार-बार सामने आ रही ऐसी घटनाएं इस सवाल को जन्म देती हैं कि एआई सिस्टम में लगाए गए सुरक्षा उपाय कितने प्रभावी हैं और इन्हें विकसित करने वाली कंपनियां कितनी गंभीरता से निगरानी और नियंत्रण का काम कर रही हैं। भले ही एआई को एक तटस्थ और निष्पक्ष तकनीक के रूप में प्रस्तुत किया जाता हो, लेकिन उसके आउटपुट इंसानी फैसलों, प्रशिक्षण डेटा और मॉडरेशन नीतियों से ही तय होते हैं।
यह बहस अभिव्यक्ति की स्वतंत्रता और तकनीकी नवाचार की सीमाओं को लेकर भी सवाल खड़े करती है। कुछ लोग यह तर्क दे सकते हैं कि अत्यधिक नियमन से रचनात्मकता और तकनीकी विकास बाधित हो सकता है। लेकिन यह भी उतना ही सच है कि जिम्मेदारी के बिना दी गई स्वतंत्रता अराजकता और नुकसान को जन्म देती है। भारत सरकार का रवैया एआई टूल्स पर पूर्ण प्रतिबंध लगाने का नहीं है, बल्कि यह सुनिश्चित करने का है कि उनका इस्तेमाल कानून और सामाजिक मूल्यों के अनुरूप हो। किसी भी लोकतांत्रिक समाज में यह अपेक्षा पूरी तरह उचित है। ग्रोक और एक्स से जुड़ा यह विवाद हमें याद दिलाता है कि तकनीक अपने आप में निरपेक्ष नहीं होती। जिन औजारों में प्रभावशाली और विश्वसनीय कंटेंट गढ़ने की क्षमता होती है, उन्हें उतने ही मजबूत नैतिक मानकों और कानूनी जवाबदेही के दायरे में रखा जाना चाहिए। भारत सरकार की कार्रवाई संकेत देती है कि देश में काम करने वाले डिजिटल प्लेटफॉर्म को कानूनों का सम्मान करना होगा।
