प्लेटफ़ॉर्म एक्स ने अपने ग्रोक चैटबॉट में नए तकनीकी अवरोधों के कार्यान्वयन की पुष्टि की है, जो विशेष रूप से वास्तविक लोगों के कपड़ों को हटाने या बदलने के उद्देश्य से उनकी तस्वीरों के संपादन को रोकने के लिए डिज़ाइन किया गया है। 14 जनवरी, 2026 को घोषित यह उपाय, कामुक डीपफेक के निर्माण और प्रसार के बारे में शिकायतों की बढ़ती लहर का सीधा जवाब है, जिसने वयस्कों और नाबालिगों दोनों को प्रभावित किया है।
यह निर्णय कृत्रिम बुद्धिमत्ता उपकरण के दुरुपयोग से प्रेरित था, जिसने दुर्भावनापूर्ण उपयोगकर्ताओं को नग्नता सामग्री या विचारोत्तेजक कपड़ों के साथ गैर-सहमति वाले मोंटाज उत्पन्न करने की अनुमति दी थी। प्रतिबंध तुरंत और विश्व स्तर पर लागू किए गए, जिससे सोशल नेटवर्क के सभी उपयोगकर्ताओं पर असर पड़ा, चाहे उनकी सदस्यता का प्रकार कुछ भी हो।
हाल के सप्ताहों में कई छेड़छाड़ की गई छवियों के प्रसार के बाद विवाद बढ़ गया, जिससे कई देशों में डिजिटल अधिकारों का बचाव करने वाले अधिकारियों और संगठनों की ओर से कड़ी प्रतिक्रिया हुई। कंपनी ने इस बात पर प्रकाश डाला कि अपडेट का उद्देश्य टूल के संचालन को मौजूदा कानून के साथ संरेखित करना और प्लेटफ़ॉर्म पर व्यक्तियों की अखंडता की रक्षा करना है।
अद्यतन से पहले, ग्रोक की अंतर्निहित छवि संपादन कार्यक्षमता व्यापक स्वतंत्रता की पेशकश करती थी, जिसका उपयोग हानिकारक सामग्री बनाने के लिए किया जाता था। नई नीति कंपनी द्वारा प्रबंधित डिजिटल वातावरण में दुरुपयोग को रोकने और सुरक्षा बहाल करने के प्रयास का प्रतिनिधित्व करती है।
नए सुरक्षा फ़िल्टर कैसे काम करते हैं
एक्स सुरक्षा टीम ने विस्तार से बताया कि सुरक्षा की नई परत उन्नत फिल्टर के माध्यम से काम करती है, जो किसी भी आदेश को वास्तविक समय में पहचानने और ब्लॉक करने के लिए प्रोग्राम किया गया है जो लोगों की छवियों में कपड़े हटाने या यौन अर्थ के तत्वों को सम्मिलित करने का अनुरोध करता है। सिस्टम को किसी भी छवि के उत्पन्न होने से पहले उपयोगकर्ताओं के अनुरोधों के पीछे के इरादे का विश्लेषण करने के लिए डिज़ाइन किया गया है, जो नए दिशानिर्देशों का उल्लंघन करने वाले अनुरोधों को स्वचालित रूप से अस्वीकार कर देता है। कंपनी ने कहा कि सुरक्षा बाधाओं को दूर करने के किसी भी प्रयास की पहचान करने और उसे बेअसर करने के लिए निगरानी निरंतर जारी है। ऑपरेशन को अवरुद्ध करने के अलावा, जो उपयोगकर्ता निषिद्ध कमांड सबमिट करने पर जोर देते हैं, उन्हें कृत्रिम बुद्धिमत्ता उपकरण तक पहुंच की अस्थायी या स्थायी सीमा जैसे प्रतिबंधों का सामना करना पड़ सकता है। यह सुनिश्चित करने के लिए कि प्लेटफ़ॉर्म संचालित होने वाली सभी भाषाओं और क्षेत्रों में समान सुरक्षा नियम लागू होते हैं, एक एकीकृत सुरक्षा मानक को मजबूत करने के लिए अद्यतन को विश्व स्तर पर वितरित किया गया था।
कंपनी और एलोन मस्क की आधिकारिक स्थिति
एक्स के मालिक और ग्रोक को विकसित करने के लिए जिम्मेदार कंपनी एक्सएआई के संस्थापक एलोन मस्क ने विवाद के बारे में सार्वजनिक रूप से बात की। उन्होंने कहा कि उन्हें टूल द्वारा नाबालिगों से जुड़ी स्पष्ट छवियों के निर्माण के बारे में कोई पूर्व जानकारी नहीं थी और इस बात पर प्रकाश डाला कि चैटबॉट केवल उपयोगकर्ताओं से सीधे आदेशों को निष्पादित करता है, जिसमें अवैध मानी जाने वाली सामग्री के निर्माण को स्वचालित रूप से अस्वीकार करने की व्यवस्था होती है। मस्क ने प्रौद्योगिकी के दुरुपयोग से निपटने के लिए कंपनी की प्रतिबद्धता पर जोर दिया।
एक आधिकारिक बयान में, एक्स प्लेटफ़ॉर्म ने बयानों को पूरक करते हुए कहा कि पिछले सुरक्षा बाधाओं में पहचानी गई विशिष्ट खामियों को पिछले अपडेट में पहले ही ठीक कर दिया गया था। कंपनी ने सभी बाजारों में कानूनी अनुपालन के प्रति अपनी प्रतिबद्धता दोहराई और इस बात पर प्रकाश डाला कि घटनाओं की पुनरावृत्ति को रोकने के लिए एक्सएआई टीम द्वारा निरंतर सुधार लागू किए जा रहे हैं। नोट के अनुसार प्राथमिकता, तकनीकी नवाचार का त्याग किए बिना एक सुरक्षित वातावरण की गारंटी देना है।
दुनिया भर में जांच और नाकेबंदी
यूनाइटेड किंगडम में, संचार नियामक, ऑफकॉम ने एक्स के खिलाफ एक औपचारिक जांच शुरू की है। जांच यह निर्धारित करने का प्रयास करती है कि क्या प्लेटफ़ॉर्म ने देश के ऑनलाइन सुरक्षा कानून द्वारा निर्धारित अवैध सामग्री को हटाने के लिए अपने कानूनी दायित्वों का अनुपालन किया है।
ब्राज़ील में, ब्राज़ीलियाई उपभोक्ता संरक्षण संस्थान (आइडेक) ने औपचारिक रूप से सरकार से ग्रोक तक पहुंच को अस्थायी रूप से निलंबित करने का अनुरोध किया। इकाई ने तर्क दिया कि यह उपकरण छवि और गोपनीयता अधिकारों, विशेषकर बच्चों और किशोरों के सीधे उल्लंघन का प्रतिनिधित्व करता है।
अधिक कठोर कार्रवाई में, इंडोनेशिया और मलेशिया की सरकारों ने अपने क्षेत्रों में ग्रोक तक पहुंच को पूरी तरह से अवरुद्ध करने का निर्णय लिया। यह निर्णय अश्लील साहित्य और आपत्तिजनक मानी जाने वाली सामग्री के प्रसार के खिलाफ सख्त स्थानीय कानूनों पर आधारित था।
संगठित नागरिक समाज की लामबंदी
20 से अधिक नारीवादी और डिजिटल अधिकार संगठनों से बने एक अंतरराष्ट्रीय गठबंधन ने प्रौद्योगिकी दिग्गजों पर दबाव बढ़ा दिया है।
संस्थाओं ने Apple और Google को खुले पत्र भेजे, जिसमें उनके संबंधित ऐप स्टोर से ऐप X को अस्थायी रूप से हटाने का अनुरोध किया गया।
प्रस्तुत मुख्य तर्क यह था कि, एप्लिकेशन को उपलब्ध रखने से, कंपनियां डिजिटल यौन शोषण करने के लिए उपयोग किए जाने वाले टूल तक पहुंच की सुविधा प्रदान करेंगी।
पत्रों पर हस्ताक्षर करने वालों में अल्ट्रावायलेट और राष्ट्रीय महिला संगठन जैसे प्रमुख समूह थे, जिन्होंने हजारों संभावित पीड़ितों के लिए आसन्न खतरे की चेतावनी दी थी।
इमेजिंग टूल में समस्या का स्रोत
टेक्स्ट कमांड से रचनात्मक दृश्य निर्माण को सक्षम करने के लिए ग्रोक की संपादन कार्यक्षमता xAI द्वारा विकसित की गई थी। हालाँकि, प्लेटफ़ॉर्म पर प्रकाशित तस्वीरों को बदलने की इसकी क्षमता का दुर्भावनापूर्ण उद्देश्यों के लिए तुरंत शोषण किया गया था।
ब्लॉक के कार्यान्वयन से पहले किए गए स्वतंत्र शोध से नग्नता उत्पन्न करने या वास्तविक छवियों में न्यूनतम कपड़े डालने के अनुरोधों की एक बड़ी मात्रा का पता चला, जिससे दुरुपयोग के प्रति सिस्टम की संवेदनशीलता उजागर हुई।
रोकथाम उपायों का विकास
पहले, प्लेटफ़ॉर्म ने छवि संपादन तक पहुंच को केवल भुगतान किए गए ग्राहकों तक सीमित करके समस्या को रोकने का प्रयास किया था। इस उपाय की व्यापक रूप से आलोचना की गई, क्योंकि इसकी व्याख्या एक ऐसी कार्यक्षमता का मुद्रीकरण करने के तरीके के रूप में की गई थी जो उपयोगकर्ताओं की सुरक्षा के लिए स्पष्ट जोखिम प्रस्तुत करती थी। वर्तमान प्रतिबंध, जो सभी के लिए इस प्रकार के संपादन को पूरी तरह से प्रतिबंधित करता है, रणनीति में बदलाव का प्रतिनिधित्व करता है जो सुरक्षा आवश्यकताओं के अनुरूप है।
कानूनी संदर्भ और मंच जिम्मेदारी
एक्स ने किसी भी बाल यौन शोषण सामग्री के खिलाफ अपनी शून्य-सहिष्णुता नीति की पुष्टि की, सामग्री को तत्काल हटाने और उल्लंघन करने वाले खातों पर स्थायी प्रतिबंध सुनिश्चित किया। कंपनी डिजिटल अपराधों से संबंधित जांच में कानून प्रवर्तन अधिकारियों के साथ भी सक्रिय रूप से सहयोग करती है।
जबकि टूल के दुरुपयोग की प्राथमिक जिम्मेदारी निषिद्ध कमांड जारी करने वाले उपयोगकर्ताओं की है, प्लेटफ़ॉर्म अपनी तकनीक को नुकसान पहुंचाने से रोकने, नवाचार और उपयोगकर्ता सुरक्षा को संतुलित करने के लिए मजबूत सुरक्षा उपायों को लागू करने के अपने कर्तव्य को पहचानता है।