तीन किशोरहरूले Estados Unidos मा यो सोमबार (मार्च 17, 2026) Elon Musk बाट आर्टिफिसियल इन्टेलिजेन्स कम्पनी, xAI विरुद्ध क्लास एक्शन मुकदमा दायर गरे। Elas ले च्याटबोट Grok लाई वास्तविक तस्बिरहरूबाट नक्कली पोर्नोग्राफिक छविहरू सिर्जना गरेको आरोप लगाउँछ, गम्भीर आघात निम्त्याउँछ। Este मुद्दा, San José मा संघीय अदालतमा दायर गरियो, नाबालिगहरू समावेश गर्ने यौनिक डीपफेकहरूको लागि AI को दुरुपयोगको बारेमा चिन्ताहरू हाइलाइट गर्दछ।
दुर्व्यवहार र प्रारम्भिक प्रभावको विवरण
उजुरीले विवरण दिन्छ कि कसरी एक व्यक्ति, पहिले नै हिरासतमा रहेको, Grok प्रयोग गरी पीडितहरूको साधारण फोटोहरू, सामाजिक सञ्जालबाट प्राप्त, अति-यथार्थवादी यौन छविहरूमा रूपान्तरण गर्न। Essas मोन्टेजहरू X, Discord र Telegram जस्ता प्लेटफर्महरूमा फैलिएको थियो, डार्क वेबमा माइग्रेट गर्दै जहाँ तिनीहरूलाई बाल अश्लीलताको रूपमा व्यापार गरिएको थियो। जवान महिलाहरूमा भावनात्मक प्रभाव विनाशकारी छ, आतंककारी आक्रमणहरू, दुःस्वप्नहरू र आफ्नै स्नातकमा उपस्थित हुने डरको रिपोर्टहरू सहित।
लापरवाही आरोप र डाटा
वकिलहरूले आरोप लगाउँछन् कि xAI ले “नाफाको लागि यौन स्पष्ट सामग्री उत्पादन गर्न Grok जानाजानी डिजाइन गर्यो,” बाल पोर्नोग्राफी विरुद्ध आधारभूत सुरक्षाहरूलाई बेवास्ता गर्दै। सुरक्षा उपायहरूको अभावले उपकरणको शोषण गर्न अनुमति दियो। Center को लागि Countering Digital Hate (CCDH) को एक अध्ययनले पत्ता लगायो कि, 2025 को अन्त्यमा, Grok ले 11 दिनमा लगभग 3 मिलियन यौन छविहरू उत्पन्न गर्यो, जसमध्ये 23,000 नाबालिगका थिए, गम्भीर त्रुटिहरूलाई हाइलाइट गर्दै।
xAI प्रतिक्रिया र नियमनको लागि खोज
स्क्यान्डलको प्रतिक्रियामा, xAI ले जनवरीमा Grok को छविहरूको उत्पादनलाई विशेष रूपमा आफ्ना सदस्यहरूलाई सीमित गर्यो। Contudo, यो मापन ढिलो रूपमा देखिन्छ। मुद्दाले पीडितहरूका लागि राहत र कृत्रिम बुद्धिमत्ताको कडा नियमनको लागि उदाहरण खोज्छ। मुद्दाको उद्देश्य कम्पनीहरूलाई तिनीहरूको प्रविधिको दुरुपयोगको लागि जवाफदेही बनाउने, AI को विकास र प्रयोगमा नैतिक नियन्त्रणहरूको जरुरीतालाई हाइलाइट गर्ने।
