चैटजीपीटी बच्चों को नुकसान पहुंचाता है, इसका दावा करने के लिए फ्लोरिडा ने ओपनएआई और सैम ऑल्टमैन पर मुकदमा दायर किया

फ्लोरिडा ने सोमवार को ओपनएआई और उसके सीईओ सैम ऑल्टमैन के खिलाफ मुकदमा दायर किया। मुकदमे में कंपनी पर चैटजीपीटी का भ्रामक विपणन करके राज्य उपभोक्ता संरक्षण कानूनों का उल्लंघन करने का आरोप लगाया गया है। यह कार्रवाई किसी अमेरिकी राज्य द्वारा कंपनी और उसके मुख्य कार्यकारी के खिलाफ पहली कार्रवाई है। अटॉर्नी जनरल जेम्स उथमेयर ने कहा कि कंपनी ने उपयोगकर्ताओं, विशेषकर बच्चों और किशोरों की सुरक्षा पर प्रौद्योगिकी के तेजी से विकास को प्राथमिकता दी है।

शिकायत चैटबॉट के उपयोग से जुड़े कथित जोखिमों की एक श्रृंखला का वर्णन करती है। इनमें आत्म-नुकसानदायक व्यवहार को प्रोत्साहित करना, ऐसी जानकारी प्रदान करना जो हिंसक कृत्यों में सहायता कर सकती है और नाबालिगों के बीच निर्भरता पैदा करने की क्षमता शामिल है। दस्तावेज़ 83 पेज लंबा है और हाइलैंड्स काउंटी कोर्ट में दायर किया गया था।

##एमवी_ईएमबी_0##

एक्शन में चैटजीपीटी को हुई क्षति की श्रृंखला का हवाला दिया गया है

मुकदमे में उन मामलों का विवरण दिया गया है जिनमें गोलीबारी के अपराधियों द्वारा चैटजीपीटी से परामर्श लिया गया था। उल्लिखित उदाहरणों में से एक में फ्लोरिडा स्टेट यूनिवर्सिटी शूटर शामिल है, जिसने 2025 के हमले से पहले सिस्टम को 270 से अधिक बार एक्सेस किया था। कार्रवाई में आत्महत्या और अपराध योजना पर टूल द्वारा दिए गए मार्गदर्शन का भी उल्लेख है।

जेम्स उथमेयर ने एक प्रेस कॉन्फ्रेंस में इस बात पर प्रकाश डाला कि OpenAI ने इन खतरों के बारे में आंतरिक और बाहरी चेतावनियों को नजरअंदाज कर दिया। उनके अनुसार, कंपनी ने उचित चेतावनी के बिना उत्पाद को लाखों फ्लोरिडियनों तक पहुंचने की अनुमति दी। अटॉर्नी जनरल ने कहा कि कंपनी ने चैटजीपीटी को एक सुरक्षित उपकरण के रूप में पेश करके माता-पिता और उपयोगकर्ताओं को गुमराह किया है।

• कथित तौर पर OpenAI ने आंतरिक सुरक्षा चेतावनियों को दबा दिया
• चैटबॉट पर नाबालिगों में जोखिम भरे व्यवहार को सुविधाजनक बनाने का आरोप है
• मुकदमा हर्जाना और उत्पाद में बदलाव के लिए अदालती आदेश की मांग करता है
• कंपनी को राज्य में अलग से आपराधिक जांच का भी सामना करना पड़ रहा है

मुकदमे में कहा गया है कि कंपनी ने एआई की दौड़ में लाभ को प्राथमिकता दी

शिकायत में कहा गया है कि ओपनएआई को शुरू से ही जोखिमों के बारे में पता था, लेकिन उसने बाजार हिस्सेदारी हासिल करने के लिए चैटजीपीटी के लॉन्च और प्रसार में तेजी लाने का फैसला किया। पाठ में उल्लेख किया गया है कि कंपनी ने संभावित नुकसान के सबूत के साथ भी मॉडल को बेहतर बनाने के लिए उपयोगकर्ता डेटा एकत्र किया। अल्टमैन को व्यक्तिगत रूप से उन निर्णयों के लिए जिम्मेदार बताया गया है जिन्होंने विकास को सार्वजनिक सुरक्षा से ऊपर रखा।

कार्रवाई में लापरवाह माने गए आचरण के लिए कार्यपालिका को व्यक्तिगत रूप से जिम्मेदार ठहराने का प्रयास किया गया है। राज्य चाहता है कि अदालतें सख्त माता-पिता के नियंत्रण और बच्चों की पहुंच पर प्रतिबंधों को लागू करने का आदेश दें। मुआवजे की राशि अभी तक निर्दिष्ट नहीं की गई है, लेकिन फ्लोरिडा कथित नुकसान के लिए महत्वपूर्ण मुआवजा प्राप्त करने का इरादा रखता है।

अटॉर्नी जनरल जेम्स उथमेयर ने इस बात पर जोर दिया कि लक्ष्य राज्य के निवासियों की रक्षा करना है। उन्होंने कहा कि ओपनएआई को नुकसान की भरपाई करने और नए जोखिमों से बचने के लिए चैटजीपीटी के काम करने के तरीके को बदलने की जरूरत है।

OpenAI के विरुद्ध पहला राज्य मामला

अन्य सरकारें और संस्थाएँ पहले से ही जेनरेटर एआई के प्रभाव पर सवाल उठा रही हैं। फ़्लोरिडा की कार्रवाई विशेष रूप से OpenAI और Altman के विरुद्ध पहली राज्य पहल होने के कारण उल्लेखनीय है। मुकदमा दीवानी है और राज्य के भ्रामक और अनुचित व्यापार व्यवहार कानून पर आधारित है। यह एफएसयू शूटिंग में चैटजीपीटी के उपयोग की चल रही आपराधिक जांच से भ्रमित नहीं है।

विशेषज्ञ इस मामले को देश में इसी तरह की अन्य कार्रवाइयों के लिए संभावित मिसाल के रूप में देखते हैं। OpenAI ने अभी तक इस प्रक्रिया पर सार्वजनिक रूप से टिप्पणी नहीं की है। कंपनी अक्सर कहती है कि वह सुरक्षा उपायों को लागू करती है और युवा उपयोगकर्ताओं के लिए सुरक्षा में सुधार जारी रखती है।

मुकदमे का विवरण और अगले चरण

मुकदमा सोमवार सुबह दर्ज किया गया। इसमें ओपनएआई ग्लोबल, ओपनएआई फाउंडेशन और सैम ऑल्टमैन को प्रतिवादी के रूप में सूचीबद्ध किया गया है। दस्तावेज़ चैटबॉट के साथ समस्याग्रस्त बातचीत के सबूत इकट्ठा करता है और कंपनी पर भ्रामक विपणन का आरोप लगाता है। राज्य न्यायालय से जोखिमों को कम करने के लिए उत्पाद के डिज़ाइन में परिवर्तन निर्धारित करने के लिए कहता है।

फ्लोरिडा यह भी चाहता है कि कंपनी को चैटजीपीटी के खतरों का स्पष्ट रूप से खुलासा करना पड़े। एक अन्य अनुरोध ऐसे तंत्र का निर्माण है जो माता-पिता की निगरानी के बिना नाबालिगों द्वारा उपयोग को सीमित करता है। यह प्रक्रिया अभी प्रारंभिक अवस्था में है और कई महीनों तक चलनी चाहिए।

एआई बहस की प्रतिक्रियाएं और व्यापक संदर्भ

कार्रवाई की घोषणा ने राष्ट्रीय ध्यान आकर्षित किया। बच्चों के वकालत समूहों ने उथमेयर की प्रेस कॉन्फ्रेंस में भाग लिया। मामले पर अलग-अलग पार्टियों के सांसदों ने सोशल मीडिया पर टिप्पणी की. सरकार के विभिन्न स्तरों पर पहल के साथ, संयुक्त राज्य अमेरिका में कृत्रिम बुद्धिमत्ता को विनियमित करने पर बहस गति पकड़ रही है।

OpenAI का तर्क है कि ChatGPT में सुरक्षा उपाय शामिल हैं और कंपनी सुरक्षा में निवेश करती है। फ्लोरिडा मामला तकनीकी नवाचार और उपभोक्ता संरक्षण के बीच तनाव को उजागर करता है। उम्मीद है कि हाइलैंड्स काउंटी कोर्ट आने वाले हफ्तों में प्रारंभिक सुनवाई कार्यक्रम निर्धारित करेगा।