ऑफकॉम, यूके मीडिया नियामक संस्था, या सोमवारी, 12 जानेवारी, 2026 रोजी एलोन मस्कच्या X प्लॅटफॉर्मच्या विरोधात औपचारिक चौकशी सुरू करण्याची घोषणा केली. ग्रोक आर्टिफिशियल इंटेलिजेंस चॅटबॉटद्वारे तयार केलेल्या बेकायदेशीर सामग्रीपासून ब्रिटीश वापरकर्त्यांचे संरक्षण करण्यात कंपनी अयशस्वी ठरली आहे की नाही हे निर्धारित करणे हे तपासाचे उद्दिष्ट आहे, ज्यामध्ये सहमत नसलेल्या अंतरंग प्रतिमा आणि मुलांचे लैंगिक चित्रण यांचा समावेश आहे.
अहवाल सूचित करतात की Grok च्या प्रतिमा निर्मिती वैशिष्ट्याचा वापर डीपफेक तयार करण्यासाठी आणि सामायिक करण्यासाठी केला गेला आहे ज्यात अंतरंग प्रतिमा दुरुपयोग किंवा बाल लैंगिक शोषण सामग्री आहे. प्लॅटफॉर्मने ऑनलाइन सेफ्टी ॲक्टमध्ये नमूद केलेल्या जबाबदाऱ्यांचे पालन करणे आवश्यक आहे, हा कायदा ज्यामध्ये प्रामुख्याने बेकायदेशीर असलेल्या सामग्रीविरूद्ध प्रतिबंधात्मक उपाय आवश्यक आहेत.
पंतप्रधान केयर स्टारमरने अलीकडील विधानात प्रतिमा घृणास्पद आणि बेकायदेशीर म्हटले आहे. उल्लंघनाची पुष्टी झाल्यास कठोर मंजुरी मिळण्याची शक्यता असल्याने अधिकारी त्वरित कारवाईसाठी दबाव आणत आहेत.
आरोपांच्या प्रकाशात प्लॅटफॉर्म X ची स्थिती
कंपनी X ने एक निवेदन जारी केले आहे की ते प्लॅटफॉर्मवरील बेकायदेशीर सामग्रीच्या विरोधात कठोर उपायांचा अवलंब करते. यामध्ये निषिद्ध सामग्री तात्काळ काढून टाकणे, संबंधित खात्यांचे कायमचे निलंबन आणि स्थानिक कायद्याची अंमलबजावणी करणाऱ्या अधिकाऱ्यांसह सहकार्य यांचा समावेश आहे.
बेकायदेशीर सामग्री व्युत्पन्न करण्यासाठी किंवा प्रोत्साहित करण्यासाठी Grok वापरणारा कोणताही वापरकर्ता थेट प्रतिबंधित सामग्री प्रकाशित करणाऱ्यांना लागू केलेला समान दंड प्राप्त करतो. कंपनीने बळकट केले की दुरुपयोग कमी करण्याच्या उद्देशाने त्यांनी नग्न प्रतिमा निर्मिती संसाधनांचा प्रवेश केवळ पैसे देणाऱ्या सदस्यांसाठी प्रतिबंधित केला आहे.
ब्रिटिश सरकारकडून अधिकृत विधाने
गेल्या आठवड्यात संसदीय अधिवेशनादरम्यान ग्रोकने तयार केलेल्या प्रतिमांवर केयर स्टाररने संताप व्यक्त केला. पंतप्रधानांनी X ने चॅटबॉटवर प्रभावी नियंत्रण ठेवण्याची मागणी केली आणि देशात अशा पद्धती खपवून घेतल्या जाणार नाहीत हे अधोरेखित केले.
व्यवसायासाठी राज्य सचिव पीटर काइल यांनी पुष्टी केली की यूकेमधील प्लॅटफॉर्मवर बंदी हा एक व्यवहार्य पर्याय आहे. अंतिम निर्णय ऑफकॉमवर अवलंबून असतो, जो नागरिकांच्या ऑनलाइन सुरक्षिततेच्या जोखमीचे मूल्यांकन करतो.
मंत्री लिझ केंडल यांनी तपास उघडण्याचे स्वागत केले आणि प्रक्रिया पूर्ण करण्यासाठी वेग वाढवण्याचे आवाहन केले. संभाव्य पीडितांना AI साधनांद्वारे सुलभ दुरुपयोगापासून संरक्षण करण्याच्या गरजेवर तिने भर दिला.
अनुपालन न झाल्यास ऑफकॉमद्वारे संभाव्य उपाय
ऑनलाइन सुरक्षा कायद्याच्या उल्लंघनाच्या गंभीर परिस्थितीत निर्बंध लादण्याचे नियामकाला व्यापक अधिकार आहेत. उपलब्ध पर्यायांमध्ये कंपनीच्या जागतिक कमाईच्या 10% पर्यंत दंड आहे.
- प्लॅटफॉर्मवरून सेवा काढून टाकण्यासाठी पेमेंट प्रदात्यांसाठी न्यायालयीन विनंती;
- जाहिरातदारांना वेबसाइटवरील मोहिमा निलंबित करण्याचे आदेश द्या;
- ब्रिटीश प्रदेशात X चा प्रवेश अवरोधित करण्यासाठी इंटरनेट प्रदात्यांचा आदेश देणे;
- अल्गोरिदम आणि सामग्री नियंत्रणावरील तपशीलवार अहवालांची आवश्यकता.
अशा साधनांचा उद्देश मुलांसाठी जोखीम मूल्यांकन कर्तव्ये आणि प्राधान्य संरक्षणाचे पालन सुनिश्चित करणे आहे.
ऑनलाइन सुरक्षा कायदा आणि प्लॅटफॉर्म दायित्वांचा संदर्भ
ब्रिटिश ऑनलाइन सुरक्षा कायदा अलीकडेच अंमलात आला आहे आणि तंत्रज्ञान कंपन्यांवर स्पष्ट जबाबदाऱ्या लादतो. वापरकर्त्यांपर्यंत पोहोचण्यापूर्वी बेकायदेशीर सामग्रीपासून धोके ओळखण्यासाठी त्यांनी योग्य जोखीम मूल्यांकन करणे आवश्यक आहे.
X सारख्या प्लॅटफॉर्मला असहमती नसलेल्या पोर्नोग्राफी आणि बाल लैंगिक शोषणासारख्या प्राधान्य सामग्रीच्या प्रदर्शनास प्रतिबंध करण्यासाठी प्रभावी प्रणाली लागू करणे आवश्यक आहे. मानक कृत्रिम बुद्धिमत्तेद्वारे व्युत्पन्न केलेल्या प्रतिमा देखील समाविष्ट करतात जे अशा उल्लंघनांचे पुनरुत्पादन करतात.
Grok च्या वैशिष्ट्यासाठी आंतरराष्ट्रीय प्रतिक्रिया
फ्रेंच अधिकाऱ्यांनी स्थानिक अभियोक्ता आणि नियामकांना औपचारिक तक्रार पाठवली, सामग्री स्पष्टपणे बेकायदेशीर म्हणून वर्गीकृत केली. सार्वजनिक व्यक्ती आणि सामान्य नागरिकांचा समावेश असलेल्या डीपफेकच्या प्रसारानंतर या प्रकरणाकडे लक्ष वेधले गेले.
भारतात, सरकारी संस्थांनी X कडून मॉडरेशन अपयशांबद्दल तपशीलवार स्पष्टीकरण मागितले. आशियाई नियमित लोक सुस्पष्ट सामग्री प्रसारित करण्याविरूद्ध स्थानिक नियमांचे पालन करण्यावर लक्ष ठेवतात.
इंडोनेशिया आणि मलेशियाने त्यांच्या प्रदेशात ग्रोकच्या प्रवेशावर तात्पुरते अवरोध स्वीकारले. स्त्रिया आणि अल्पवयीन मुलांच्या सहमती नसलेल्या प्रतिमांच्या निर्मितीबद्दलच्या तक्रारींना हे उपाय प्रतिसाद देतात.
ग्रोकद्वारे प्रतिमा निर्मितीसह विवादांचा इतिहास
प्रतिस्पर्ध्यांच्या तुलनेत कमी सेन्सॉरशिप धोरणामुळे xAI चॅटबॉटला महत्त्व प्राप्त झाले. तथापि, वापरकर्ते अधिकृततेशिवाय वास्तविक लोकांचे स्पष्ट प्रतिनिधित्व तयार करण्यासाठी प्रॉम्प्टचा गैरफायदा घेत असल्याने, यामुळे गैरवर्तन सुलभ झाले.
मागील अहवाल असे सूचित करतात की सुरक्षा उपायांमध्ये प्रारंभिक अपयशांमुळे मोठ्या प्रमाणावर संवेदनशील सामग्रीचे उत्पादन होऊ शकले. जागतिक टीकेच्या लाटांनंतर प्लॅटफॉर्मने हळूहळू निर्बंध समायोजित केले.
अलीकडील अद्यतनांमध्ये सत्यापित आणि सशुल्क खात्यांसाठी मर्यादित संपादन आणि प्रतिमा निर्मिती कार्ये आहेत. सततचे उल्लंघन रोखण्यासाठी असे अडथळे पुरेसे आहेत का असा प्रश्न तज्ञ करतात.
प्लॅटफॉर्मवरील मुलांसाठी जोखीम मूल्यांकन
Grok द्वारे व्युत्पन्न केलेल्या सामग्रीच्या संपर्कात असलेल्या अल्पवयीन मुलांचे संरक्षण करण्यावर ऑफकॉम तपासणीचा एक भाग केंद्रित करते. कायद्याला अपमानास्पद सामग्रीच्या प्रदर्शनासह बाल वापरकर्त्यांसाठी विशिष्ट जोखीम मूल्यांकन आवश्यक आहे.
अहवाल चॅटबॉट प्रतिसादांद्वारे मुलांच्या लैंगिक प्रतिमा सामायिक केलेल्या प्रकरणांना हायलाइट करतात. अशा विनंत्या अवरोधित करण्यासाठी X ने योग्य फिल्टर लागू केले आहेत की नाही हे नियामक तपासतो.
डिजिटल सुरक्षा तज्ञ चेतावणी देतात की मजबूत निर्बंधांशिवाय AI टूल्स विद्यमान धोके वाढवतात. इतर प्लॅटफॉर्मचा समावेश असलेल्या तत्सम प्रकरणांमुळे आधीच आंतरराष्ट्रीय नियामक कृती झाल्या आहेत.
नियामक तपासणी पुढील पायऱ्या
X कडून पुरावे आणि दस्तऐवजांच्या विनंत्या गोळा करून तपास त्याच्या सुरुवातीच्या टप्प्यात आहे. जर ते तत्काळ गैर-अनुपालन ओळखत असेल तर ऑफकॉम प्राथमिक सूचना जारी करू शकते.
संरक्षण आणि सुधारणा योजना सादर करण्यासाठी कंपनीकडे अंतिम मुदत आहे. तांत्रिक विश्लेषणाच्या जटिलतेवर अवलंबून, प्रक्रिया महिने टिकू शकते.
ब्रिटीश अधिकारी इतर देशांमध्ये समांतर घडामोडींचे अनुसरण करीत आहेत. डिजिटल प्लॅटफॉर्मच्या सीमापार स्वरूपामुळे आंतरराष्ट्रीय समन्वय मजबूत होतो.
युनायटेड किंगडममध्ये AI मूळची पर्वा न करता गैर-सहमतीने अंतरंग डीपफेकची निर्मिती गुन्हा आहे. बाल लैंगिक शोषण सामग्री सामायिक करणे देखील कठोर शिक्षा प्राप्त करते, प्लॅटफॉर्मवर सामग्री आढळताच ती काढून टाकणे आवश्यक आहे.
