अश्लील डीपफेकमुळे मस्कच्या ग्रोकला इंडोनेशिया आणि मलेशियामध्ये प्रथम देशव्यापी लॉकडाउनचा सामना करावा लागतो

इंडोनेशिया आणि मलेशियाने एलोन मस्कच्या xAI द्वारे विकसित केलेल्या कृत्रिम बुद्धिमत्ता चॅटबॉट Grok वर प्रवेश करण्यावर तात्पुरते निर्बंध जाहीर केले. संमतीशिवाय लैंगिकरित्या सुस्पष्ट प्रतिमा निर्माण करण्यासाठी साधनाचा गैरवापर ओळखल्यानंतर उपाययोजना केल्या जातात.

दोन्ही देशांच्या सरकारांनी नागरिकांच्या, विशेषत: महिला आणि अल्पवयीनांच्या गोपनीयतेला आणि प्रतिष्ठेच्या जोखमीवर प्रकाश टाकला. नियामक अधिकाऱ्यांनी निदर्शनास आणून दिले आहे की विद्यमान यंत्रणा खोट्या पोर्नोग्राफिक सामग्रीची निर्मिती आणि प्रसार रोखत नाहीत.

इंडोनेशियामध्ये शनिवारी लॉकडाऊन सुरू झाला, त्यानंतर रविवारी मलेशिया. दोन्ही राष्ट्रे डिजिटल वातावरणात या प्रथेला मानवी हक्कांचे गंभीर उल्लंघन मानतात.

• खोट्या सामग्रीपासून महिला आणि मुलांचे संरक्षण
• मानसिक आणि प्रतिष्ठेचे नुकसान रोखणे
• एआय कंपन्यांसाठी कठोर सुरक्षा व्यवस्थांची मागणी

इंडोनेशियन अधिकाऱ्यांचा निर्णय

इंडोनेशियाच्या दळणवळण आणि डिजिटल व्यवहार मंत्रालयाने लोकसंख्येचे रक्षण करण्यासाठी आवश्यक असलेल्या निर्बंधाचे समर्थन केले. नागरिकांच्या डिजिटल सुरक्षेला थेट धोका म्हणून सरकार सहमत नसलेल्या लैंगिक डीपफेकचे मूल्यांकन करते.

प्राथमिक तपासात असे दिसून आले की ग्रोकने प्रभावी अडथळ्यांशिवाय स्थानिक रहिवाशांच्या वास्तविक फोटोंमध्ये फेरफार करण्यास परवानगी दिली. या अयशस्वीतेमुळे गोपनीयता आणि प्रतिमा अधिकारांचे उल्लंघन सुलभ झाले, नकारात्मक सामाजिक प्रभाव निर्माण झाले.

डिजिटल स्पेसच्या पर्यवेक्षणाचे महासंचालक अलेक्झांडर साबर यांनी पुष्टी केली की पुरेशी नियंत्रणे अंमलात येईपर्यंत नाकेबंदी कायम आहे. हा उपाय देशातील जनरेटिव्ह एआय टूल्सबद्दल वाढती चिंता दर्शवितो.

मलेशियामध्ये नियामक स्थिती

मलेशियन कम्युनिकेशन्स अँड मल्टीमीडिया कमिशनने वारंवार गैरवर्तनाच्या घटनांनंतर निर्बंध घालण्याचे आदेश दिले. एजन्सीने महिला आणि अल्पवयीन मुलांचा समावेश असलेल्या अश्लील आणि फेरफार केलेल्या प्रतिमांची निर्मिती ओळखली.

X Corp. आणि xAI ला पाठवलेल्या सूचनांनी सुरक्षा सुधारणांची मागणी केली होती, परंतु प्रतिसाद फक्त वापरकर्त्यांच्या तक्रारींवर केंद्रित होते. हानी टाळण्यासाठी अधिकाऱ्यांनी हा दृष्टिकोन अपुरा मानला.

नियामक प्रक्रिया पुढे जात असताना प्रतिबंध प्रतिबंधात्मक कृती म्हणून कार्य करते. कंपनीद्वारे प्रभावी सुरक्षा उपायांचा अवलंब केल्यानंतरच प्रवेश दिला जाईल.

दोन्ही देशांनी स्वतंत्रपणे, परंतु समान डिजिटल संरक्षण उद्दिष्टांसह क्रियांचे समन्वय साधले. नियामक एआय-व्युत्पन्न सामग्री नियंत्रित करण्यासाठी प्लॅटफॉर्मच्या जबाबदारीवर जोर देतात.

Grok वैशिष्ट्ये आणि अलीकडील इतिहास

Grok 2023 मध्ये X प्लॅटफॉर्ममध्ये समाकलित केलेले साधन म्हणून लॉन्च केले गेले, प्रारंभिक विनामूल्य प्रवेशासह. वापरकर्ते पोस्ट किंवा प्रत्युत्तरांमध्ये थेट प्रतिमा निर्माण करतात, त्वरीत पोहोच वाढवतात.

गेल्या वर्षी, xAI ने प्रौढ सामग्री तयार करण्यास सक्षम मोडसह Grok Imagine वैशिष्ट्य जोडले. या कार्यक्षमतेला गैरवापराच्या विरोधात मजबूत फिल्टर नसल्याबद्दल टीका मिळाली आहे.

अलीकडे, जागतिक परिणामानंतर कंपनीने प्रतिमा निर्मिती आणि संपादन पेइंग सदस्यांपर्यंत मर्यादित केले. समीक्षकांचा असा युक्तिवाद आहे की बदलामुळे संरचनात्मक नियंत्रण समस्यांचे निराकरण होत नाही.

चॅटबॉट कमी प्रतिबंधात्मक रेलिंग असलेल्या स्पर्धकांपासून स्वतःला वेगळे करतो, मस्कने संरक्षण केलेल्या कमी सेन्सॉरशिपच्या दृष्टीनुसार. हा दृष्टीकोन सार्वजनिक व्यक्तींच्या वास्तववादी चित्रणांसह विवादास्पद निर्मिती सुलभ करतो.

दक्षिणपूर्व आशियातील नियामक संदर्भ

इंडोनेशिया आणि मलेशियामध्ये पोर्नोग्राफी आणि आक्षेपार्ह ऑनलाइन सामग्रीविरोधात कठोर कायदा आहे. अधिकारी प्लॅटफॉर्मवर दंड आणि ब्लॉक लागू करतात जे सभ्यतेच्या स्थानिक मानकांचे पालन करत नाहीत.

देशांनी अलिकडच्या वर्षांत डीपफेकच्या प्रकरणांमध्ये वाढ नोंदवली आहे, ज्याचा प्रामुख्याने सार्वजनिक पदांवर असलेल्या महिलांवर परिणाम होतो. सरकारी मोहिमा या हाताळणीच्या मानसिक आणि सामाजिक जोखमींबद्दल चेतावणी देतात.

प्रादेशिक नियामक वाढीव लक्ष देऊन जनरेटिव्ह एआय मधील प्रगतीचे निरीक्षण करतात. चुकीच्या माहितीमुळे मागील ब्लॉक सोशल नेटवर्क्सवर आले आहेत, परंतु विशिष्ट चॅटबॉटवर ही पहिली थेट कारवाई आहे.

हा निर्णय बहुसंख्य मुस्लिम लोकसंख्या असलेल्या इतर आशियाई राष्ट्रांसाठी आदर्श ठेवतो. डिजिटल वातावरणात सांस्कृतिक आणि कौटुंबिक मूल्यांच्या संरक्षणाला सरकारे प्राधान्य देतात.

आंतरराष्ट्रीय प्रतिक्रिया आणि वाढीव छाननी

युरोपियन युनियन, युनायटेड किंगडम, भारत आणि फ्रान्स समान समस्यांसाठी Grok वर देखरेख ठेवतात. युरोपियन नियामक डेटा संरक्षण कायदे आणि बेकायदेशीर सामग्रीच्या अनुपालनाचे मूल्यांकन करतात.

युनायटेड किंगडममध्ये, ऑफकॉमने टूलद्वारे व्युत्पन्न केलेल्या बेकायदेशीर अंतरंग प्रतिमांसाठी प्लॅटफॉर्म X मध्ये औपचारिक तपासणी सुरू केली. ब्रिटिश अधिकारी आवश्यक असल्यास कठोर निर्बंध लादण्याचा विचार करत आहेत.

AI नैतिकतावादी जनरेटिव्ह टूल्ससाठी जागतिक मानकांची गरज हायलाइट करतात. संस्था रिलीझ करण्यापूर्वी सहमत नसलेल्या सामग्रीच्या विरूद्ध फिल्टरची अनिवार्य अंमलबजावणी करण्याचे समर्थन करतात.

टेक कंपन्यांना सक्रिय संयत जबाबदारी स्वीकारण्यासाठी वाढत्या दबावाचा सामना करावा लागतो. यासारखी प्रकरणे नवकल्पना आणि सार्वजनिक सुरक्षितता यांच्यातील संतुलनाविषयीच्या वादाला बळकटी देतात.

Grok मध्ये प्रतिमा तांत्रिक कार्य

मजकूर वर्णनांमधून प्रतिमा तयार करण्यासाठी किंवा संपादित करण्यासाठी साधन प्रगत टेम्पलेट्स वापरते. वापरकर्ते तपशीलवार सूचना प्रविष्ट करतात, काही सेकंदात वास्तववादी परिणाम मिळवतात.

इतर चॅटबॉट्सच्या विपरीत, Grok ने सुरुवातीला स्वयंचलित ब्लॉकिंगशिवाय स्पष्ट सामग्रीला परवानगी दिली. या स्वातंत्र्यामुळे प्लॅटफॉर्मवर संवेदनशील सामग्रीचे जलद अभिसरण निर्माण झाले.

अलीकडील अद्यतनांनी आंशिक निर्बंध आणले आहेत, परंतु अहवाल सतत गैरवर्तन दर्शवितात. तंत्रज्ञ क्रिएटिव्ह प्रॉम्प्ट्समध्ये दुर्भावनायुक्त हेतू फिल्टर करण्याच्या आव्हानांकडे निर्देश करतात.

सोशल नेटवर्कसह थेट एकीकरण निर्मितीचे त्वरित सामायिकरण सुलभ करते. हा प्रवाह मॅन्युअल मॉडरेशन हस्तक्षेपापूर्वी प्रसार वाढवतो.

असुरक्षित गटांसाठी संरक्षण

साधनाद्वारे व्युत्पन्न केलेल्या लैंगिक डीपफेकमध्ये ओळखल्या गेलेल्या बहुसंख्य पीडित महिलांचे प्रतिनिधित्व करतात. हाताळणी व्यावसायिक प्रतिष्ठा आणि भावनिक कल्याणावर चिरस्थायी पद्धतीने परिणाम करतात.

अल्पवयीन मुलांचा समावेश असलेली प्रकरणे अधिका-यांमध्ये उच्च सतर्कता वाढवतात. नियामक या सामग्रीचे डिजिटल बाल शोषण म्हणून वर्गीकरण करतात, प्लॅटफॉर्मवरून त्वरित प्रतिसाद आवश्यक आहे.

डिजिटल अधिकार संस्था प्रतिमा मालमत्तेसाठी कठोर वय पडताळणीसाठी कॉल करतात. उपायांमध्ये संशयास्पद प्रॉम्प्ट्सना पूर्व-अवरोधित करणे आणि स्वयंचलित निरीक्षण समाविष्ट आहे.

सरकार AI जोखमींबद्दल जलद अहवाल आणि शिक्षणाला प्रोत्साहन देते. सार्वजनिक मोहिमा नागरिकांना वैयक्तिक प्रतिमा ऑनलाइन संरक्षित करण्यासाठी मार्गदर्शन करतात.

AI साधनांसाठी दृष्टीकोन

दुरुपयोग प्रतिबंधासह सर्जनशील स्वातंत्र्य संतुलित करण्याचे आव्हान विकसकांसमोर आहे. तज्ञांनी ट्रॅकिंगसाठी व्युत्पन्न केलेल्या प्रतिमांमध्ये अदृश्य वॉटरमार्कचा अवलंब करण्याचा सल्ला दिला आहे.

आशियाई देश समान AI मानकांसाठी प्रादेशिक सहकार्यावर चर्चा करतात. पुढाकारांमध्ये नियामक सर्वोत्तम पद्धती आणि जोखीम साधनांच्या सूची सामायिक करणे समाविष्ट आहे.

xAI सारख्या कंपन्या जागतिक घटनांनंतर अंतर्गत धोरणांचे पुनरावलोकन करतात. भविष्यातील अद्यतनांमध्ये सतत शिकण्यावर आधारित अधिक प्रगत फिल्टर समाविष्ट असू शकतात.

हे प्रकरण नियामक आणि तंत्रज्ञान उद्योग यांच्यातील संवादाचे महत्त्व अधिक बळकट करते. सहयोगी उपायांचा उद्देश कृत्रिम बुद्धिमत्तेच्या क्षेत्रात सुरक्षित आणि जबाबदार नवकल्पना सक्षम करणे आहे.