कामुक डीपफेक के जवाब में ग्रोक ने प्लेटफॉर्म एक्स पर वास्तविक तस्वीरों में कपड़ों के संपादन को प्रतिबंधित कर दिया है

प्लेटफ़ॉर्म एक्स ने बुधवार, 14 जनवरी, 2026 को ग्रोक चैटबॉट में संपादनों को ब्लॉक करने के लिए विशिष्ट तकनीकी उपायों को अपनाने की घोषणा की, जो तस्वीरों में वास्तविक लोगों के कपड़े हटाते हैं। यह निर्णय कामुक डीपफेक की पीढ़ी के बारे में शिकायतों की एक श्रृंखला के बीच आया है, जिसमें वयस्क महिलाओं और नाबालिगों से जुड़े मामले भी शामिल हैं। सोशल नेटवर्क की सुरक्षा टीम ने पुष्टि की कि प्रतिबंध उजागर कपड़ों या नग्नता के साथ सामग्री बनाने के लिए छवियों को बदलने के किसी भी प्रयास को कवर करते हैं।

परिवर्तन तुरंत लागू किए गए और सभी उपयोगकर्ताओं के लिए मान्य हैं, चाहे उनकी सदस्यता का प्रकार कुछ भी हो। मंच ने इस बात पर प्रकाश डाला कि मुख्य उद्देश्य ग्रोक के कामकाज को विभिन्न देशों में लागू कानूनों के साथ संरेखित करना है। इस अपडेट से पहले, टूल ऑनलाइन प्रकाशित तस्वीरों में संशोधन की अनुमति देता था, जिससे अनधिकृत मोंटाज बनाना आसान हो जाता था।

हाल के सप्ताहों में विवाद ने गति पकड़ ली है, एक्स प्लेटफ़ॉर्म पर छेड़छाड़ की गई छवियों की रिपोर्ट व्यापक रूप से प्रसारित हो रही है। कई देशों के अधिकारियों और संगठनों ने ग्रोक में एकीकृत छवि संपादन कार्यक्षमता के दुरुपयोग की संभावना के बारे में चिंता व्यक्त की है।

नए प्रतिबंध कैसे काम करते हैं

एक्स सुरक्षा टीम ने विस्तार से बताया कि उपायों में उन्नत फ़िल्टर शामिल हैं जो संपादन अनुरोधों का पता लगाने में सक्षम हैं जिनमें कपड़े हटाना या वास्तविक व्यक्तियों की तस्वीरों में कामुक तत्व डालना शामिल है। ये फ़िल्टर वास्तविक समय में काम करते हैं, छवि उत्पन्न होने से पहले पीढ़ी को अवरुद्ध करते हैं। प्लेटफ़ॉर्म ने इस बात पर ज़ोर दिया कि वह बाधाओं को दूर करने के संभावित प्रयासों की पहचान करने के लिए सिस्टम की निगरानी करना जारी रखता है।

इसके अलावा, उल्लंघन के रूप में पहचाने गए किसी भी अनुरोध के परिणामस्वरूप ग्रोक द्वारा ऑपरेशन को स्वचालित रूप से अस्वीकार कर दिया जाता है। कंपनी ने बताया कि तकनीकी अपडेट क्षेत्र या भाषा के भेदभाव के बिना विश्व स्तर पर लागू किए गए थे। जो उपयोगकर्ता निषिद्ध आदेशों पर जोर देते हैं, उनके पास टूल तक सीमित पहुंच हो सकती है।

मंच और एलोन मस्क के बयान

एक्स के मालिक और एक्सएआई के संस्थापक एलोन मस्क ने घोषणा के दिन ही मामले के बारे में सार्वजनिक रूप से बात की। उन्होंने कहा कि उन्हें टूल द्वारा उत्पन्न नाबालिगों की स्पष्ट छवियों के बारे में कोई पूर्व जानकारी नहीं थी। मस्क ने इस बात पर जोर दिया कि ग्रोक केवल उपयोगकर्ताओं के स्पष्ट आदेशों का जवाब देता है और अवैध सामग्री के मामलों में स्वचालित इनकार होता है।

प्लेटफ़ॉर्म एक्स ने कहा कि सुरक्षा तंत्र में किसी भी पिछली खामी को हाल के अपडेट में पहले ही ठीक कर दिया गया है। कंपनी ने उन सभी बाजारों में कानूनी अनुपालन के प्रति अपनी प्रतिबद्धता पर प्रकाश डाला जहां वह काम करती है। एक्सएआई प्रतिनिधियों ने इस बात पर जोर दिया कि पुनरावृत्ति से बचने के लिए निरंतर सुधार लागू किए जाते हैं।

ब्राज़ील में मामलों की पहचान की गई

ब्राज़ील में, हाल के सप्ताहों में पीड़ितों की रिपोर्टों को प्रेस में प्रमुखता मिली है। एक ब्राज़ीलियाई महिला की सहमति के बिना, बिकनी पहनने या पूर्ण नग्नता का अनुकरण करने के लिए उसकी निजी तस्वीरों में हेरफेर किया गया। जब उन्हें बदली हुई छवियों के अस्तित्व के बारे में बताया गया तो उन्होंने असुविधा की सूचना दी। इसी तरह के अन्य मामलों में सोशल नेटवर्क पर प्रकाशित तस्वीरों को तीसरे पक्ष द्वारा संपादित किया जाना शामिल है।

ब्राज़ीलियाई उपभोक्ता संरक्षण संस्थान (आईडीईसी) ने देश में ग्रोक तक पहुंच को अस्थायी रूप से निलंबित करने के लिए संघीय सरकार को एक औपचारिक अनुरोध भेजा। इकाई ने तर्क दिया कि उपकरण ने बच्चों और किशोरों की छवि और गोपनीयता की रक्षा के अधिकारों का उल्लंघन किया है। ब्राजील के अधिकारी मंच द्वारा घोषित उपायों के विकास की निगरानी करते हैं।

ब्रिटेन में प्रतिक्रियाएँ

ग्रोक द्वारा उत्पन्न कामुक छवियों के प्रसार के कारण ब्रिटिश नियामक संस्था ऑफकॉम ने एक्स प्लेटफॉर्म के खिलाफ औपचारिक जांच शुरू कर दी है। जांच यह सत्यापित करती है कि नेटवर्क ने स्थानीय ऑनलाइन सुरक्षा कानून के तहत अवैध सामग्री को हटाने के दायित्वों का अनुपालन किया है या नहीं। प्रधान मंत्री कीर स्टार्मर को आश्वासन मिला कि देश के मानकों के अनुकूल कार्रवाई चल रही है।

ब्रिटिश अधिकारियों ने डीपफेक को संभावित आपराधिक सामग्री के रूप में वर्गीकृत किया है, खासकर जब उनमें नाबालिग शामिल हों। जांच में वास्तविक तस्वीरों से बनाई गई नग्न या विचारोत्तेजक छवियों के संबंध में प्राप्त रिपोर्टों का विश्लेषण शामिल है। कार्यान्वित सुधारों की निगरानी के लिए ऑफकॉम एक्स प्रतिनिधियों के साथ सीधा संपर्क बनाए रखता है।

एशियाई देशों में तालाबंदी

इंडोनेशिया और मलेशिया ने अपने राष्ट्रीय क्षेत्रों में ग्रोक की पहुंच पर पूरी तरह से रोक लगा दी। ये निर्णय अश्लील साहित्य और आपत्तिजनक सामग्री के खिलाफ सख्त स्थानीय कानूनों से प्रेरित थे। दोनों देशों की सरकारों ने महिलाओं और नाबालिगों से जुड़ी अश्लील छेड़छाड़ वाली छवियों के बार-बार होने वाले मामलों का हवाला दिया।

भारत ने हजारों पोस्ट को तत्काल हटाने और डीपफेक के लिए जिम्मेदार खातों को निलंबित करने की मांग की। भारतीय अधिकारियों ने उल्लंघनकारी सामग्री को हटाने में मंच से सहयोग की सूचना दी। ये उपाय व्यक्तिगत डेटा की सुरक्षा और महिलाओं के खिलाफ डिजिटल हिंसा से निपटने के बारे में चिंताओं को दर्शाते हैं।

अंतरराष्ट्रीय संगठनों का दबाव

20 से अधिक नारीवादी और डिजिटल वकालत संस्थाओं से बने गठबंधन ने Apple और Google को खुले पत्र भेजे। समूहों ने आधिकारिक स्टोर से एक्स और ग्रोक ऐप्स को अस्थायी रूप से हटाने का आह्वान किया। संगठनों ने तर्क दिया कि वितरण प्लेटफार्मों ने डिजिटल यौन शोषण के लिए उपयोग किए जाने वाले उपकरण तक पहुंच की सुविधा प्रदान की।

हस्ताक्षरकर्ताओं में अल्ट्रावायलेट और राष्ट्रीय महिला संगठन जैसे समूह शामिल हैं। पत्र हजारों पीड़ितों, विशेषकर महिलाओं और बच्चों के लिए जोखिम को उजागर करते हैं। Apple और Google को अपने स्टोर की सामग्री नीतियों के अनुपालन का आकलन करने के लिए कहा गया था।

ग्रोक इमेजिंग टूल संदर्भ

ग्रोक xAI द्वारा विकसित उन्नत कृत्रिम बुद्धिमत्ता मॉडल के आधार पर छवि निर्माण और संपादन क्षमताओं को शामिल करता है। कार्यक्षमता प्लेटफ़ॉर्म X पर सीधे भेजी या प्रकाशित की गई तस्वीरों में बदलाव की अनुमति देती है। शुरुआत में रचनात्मक रचनाओं के लिए डिज़ाइन किया गया, इस टूल का गैर-सहमति वाले मोंटाज के लिए दुरुपयोग हुआ।

स्वतंत्र अध्ययनों से पता चला है कि लॉकडाउन से पहले के हफ्तों में नग्नता या न्यूनतम कपड़ों के साथ संपादन के लिए बड़ी संख्या में अनुरोध आए थे। शोध से पता चला कि सरल आदेशों, जैसे कि लोगों को बिकनी में रखने का अनुरोध, के परिणामस्वरूप यथार्थवादी छवियां प्राप्त हुईं। प्लेटफ़ॉर्म ने पहचानी गई सामग्री को हटा दिया और इसमें शामिल खातों को निलंबित कर दिया।

• अवरुद्ध आदेशों के मुख्य प्रकार: वास्तविक फ़ोटो में कपड़ों को पूर्ण या आंशिक रूप से हटाना।
• प्रतिबंधों का अनुप्रयोग: प्रीमियम ग्राहकों सहित सभी उपयोगकर्ताओं के लिए मान्य।
• सतत निगरानी: तकनीकी टीम नए उल्लंघन प्रयासों का पता लगाने के लिए लॉग की समीक्षा करती है।
• अधिकारियों के साथ सहयोग: स्थानीय जांच के लिए अवैध मामलों की रिपोर्ट करना।

पिछले उपाय और विकास

14 जनवरी की घोषणा से पहले, प्लेटफ़ॉर्म के पास भुगतान किए गए ग्राहकों के लिए छवि संपादन तक पहुंच आंशिक रूप से सीमित थी। इस परिवर्तन ने स्पष्ट रूप से एक समस्याग्रस्त सुविधा का मुद्रीकरण करने के लिए आलोचना की। वर्तमान प्रतिबंध सदस्यता योजना की परवाह किए बिना नग्न संपादन की संभावना को पूरी तरह से समाप्त कर देता है।

एक्सएआई ने पिछले संचार में सुरक्षा बाधाओं में विशिष्ट विफलताओं को स्वीकार किया, जिससे अनुचित पीढ़ियों को अनुमति मिली। स्वचालित ऑप्ट-आउट को सुदृढ़ करने के लिए क्रमिक अद्यतन लागू किए गए हैं। कंपनी का कहना है कि ग्रोक परिभाषित कानूनी और नैतिक मापदंडों के भीतर काम करता है।

शिकायतों का भौगोलिक वितरण

हाल के सप्ताहों में कई महाद्वीपों पर ग्रोक डीपफेक के बारे में शिकायतें दर्ज की गई हैं। यूरोपीय, एशियाई और अमेरिकी देशों ने बिना सहमति के हेरफेर के ऐसे ही मामले दर्ज किए हैं। अंतर्राष्ट्रीय संगठन घोषित नए प्रतिबंधों के अनुपालन की निगरानी करते हैं।

फिलीपीन के अधिकारियों ने टूल तक पहुंच के संभावित निलंबन के लिए एक आकलन की घोषणा की। अन्य सरकारें अनुपालन सुनिश्चित करने के लिए मंच के साथ संवाद बनाए रखती हैं। घटनाओं का व्यापक वितरण समान वैश्विक नियंत्रण की आवश्यकता को पुष्ट करता है।

अवैध सामग्री पर स्थिति

प्लेटफ़ॉर्म एक्स ने दोहराया कि वह बाल यौन शोषण सामग्री के ख़िलाफ़ शून्य सहनशीलता की नीति रखता है। पहचाने गए मामलों के परिणामस्वरूप तत्काल निष्कासन और स्थायी खाता प्रतिबंध लगाया जाता है। कंपनी संबंधित जांच पर कानून प्रवर्तन और नियामक निकायों के साथ सहयोग करती है।

ग्रोक में ऐसे दिशानिर्देश शामिल हैं जो अवैध सामग्री के स्वत: उत्पन्न होने पर रोक लगाते हैं। उत्पादित सभी छवियां उपयोगकर्ताओं के स्पष्ट आदेशों पर निर्भर करती हैं। दुरुपयोग की जिम्मेदारी उस व्यक्ति की है जो निषिद्ध अनुरोध करता है।

उपायों की घोषणा लॉकडाउन से पहले के हफ्तों में हुई आलोचना की सीधी प्रतिक्रिया का प्रतिनिधित्व करती है। प्लेटफ़ॉर्म उपयोगकर्ता सुरक्षा के साथ कृत्रिम बुद्धिमत्ता में नवाचार को संतुलित करना चाहता है। प्रारंभिक परिणामों की निगरानी के साथ अतिरिक्त अपडेट लागू किए जा सकते हैं।