खोट्या डेटासह कृत्रिम बुद्धिमत्ता प्रतिसाद हाताळण्यात प्रयोग सुलभतेने सिद्ध करतो

रिअल-टाइम डेटा मॅनिपुलेशनच्या व्यावहारिक प्रात्यक्षिकानंतर बाजारात सर्वात लोकप्रिय कृत्रिम बुद्धिमत्ता साधनांद्वारे प्रदान केलेल्या माहितीच्या अखंडतेवर प्रश्नचिन्ह निर्माण केले गेले. एका तंत्रज्ञान तज्ञाने केलेल्या चाचणीत असे दिसून आले की ChatGPT आणि जेमिनी सारख्या प्लॅटफॉर्मच्या ज्ञान तळांमध्ये काही मिनिटांत पूर्णपणे शोधलेले तथ्य समाविष्ट करणे शक्य आहे. अल्गोरिदमने ज्या सहजतेने खोटे स्वीकारले आणि त्याची प्रतिकृती तयार केली, ती या प्रणालींच्या प्रक्रिया आणि अनुक्रमित वेब सामग्रीचे प्रमाणीकरण करण्याच्या पद्धतीमध्ये एक गंभीर असुरक्षा उघड करते.

प्रयोगामध्ये भाषा मॉडेल्सद्वारे शोषणाची गती तपासण्यासाठी, वास्तविक कोणत्याही आधाराशिवाय, काल्पनिक माहिती असलेले एक साधे इंटरनेट पृष्ठ तयार करणे समाविष्ट होते. त्याच्या गतीमुळे परिणाम आश्चर्यकारक होता: अर्ध्या तासापेक्षा कमी वेळात, एआय टूल्स आधीच बनावट सामग्री सादर करत होते जणू ते वापरकर्त्यांना त्यांच्या प्रतिसादांमध्ये पूर्ण सत्य आहे. ही तांत्रिक त्रुटी आपोआप व्युत्पन्न केलेल्या उत्तरांच्या विश्वासार्हतेबद्दल गंभीर चिंता निर्माण करते, विशेषत: अशा परिस्थितीत जेथे लाखो लोक या सेवांचा त्यांच्या संशोधनाचा प्राथमिक स्रोत म्हणून वापर करतात.

तज्ञांनी नमूद केले की समस्या रिअल-टाइम डेटा कलेक्शन आर्किटेक्चरमध्ये आहे, जी कठोर स्त्रोत पडताळणीच्या हानीसाठी सतत अपडेट करण्याला प्राधान्य देते. पूर्वीचा कोणताही विरोधाभासी डेटा नसलेल्या वातावरणात नवीन माहितीचा सामना करताना, सिस्टम ती सामग्री सर्वात संबंधित आणि अद्यतनित म्हणून वर्गीकृत करते. हे वर्तन बनावट बातम्या, आर्थिक घोटाळे आणि धोकादायक आरोग्य सल्ल्यांचा प्रसार करण्यासाठी एक प्रवेशद्वार तयार करते, कथित बुद्धिमान तांत्रिक प्रतिसादाच्या अधिकाराखाली मुखवटा घालून.

समस्येचे प्रमाण समजून घेण्यासाठी, या सुरक्षा उल्लंघनास अनुमती देणाऱ्या घटकांचे विश्लेषण करणे आवश्यक आहे:

• कोनाडा किंवा अतिशय विशिष्ट विषयांवर डेटा क्रॉसिंगचा अभाव.
• डोमेन प्रतिष्ठा विश्लेषणाशिवाय नवीन पृष्ठांची उच्च अनुक्रमणिका गती.
• माहिती स्पर्धा नसताना एकल स्त्रोतांवर जास्त अवलंबित्व.
• पत्रकारितेतील तथ्यांपासून व्यंग किंवा आविष्कार वेगळे करण्यात अल्गोरिदमसाठी अडचण.

डेटा हाताळणीचे यांत्रिकी

या अपयशाचे स्पष्टीकरण देणाऱ्या प्रकरणात अस्तित्वात नसलेल्या इव्हेंटचा शोध समाविष्ट आहे: “साउथ डकोटा इंटरनॅशनल हॉट डॉग चॅम्पियनशिप.” चाचणीचे लेखक, थॉमस जर्मेन यांनी त्यांच्या वैयक्तिक वेबसाइटवर प्रकाशित केले की ते स्वत: या क्षेत्रातील नामांकित नावांना मागे टाकून स्पर्धेचे महान चॅम्पियन असतील. यंत्राच्या दृष्टीने मजकुराला विश्वासार्हता देण्यासाठी, त्याने वास्तविक अहवालांचे अनुकरण करणारी कथा रचना वापरली, तारखा आणि काल्पनिक कार्यक्रमादरम्यान तुटलेल्या नोंदींचा हवाला दिला.

सिस्टमला मूर्ख बनवण्यासाठी कोणतीही जटिल हॅकिंग साधने किंवा प्रगत प्रोग्रामिंग ज्ञान आवश्यक नव्हते. केवळ मजकूर प्रकाशित करणे, वाचनीय मार्गाने आणि धोरणात्मक कीवर्डसह स्वरूपित करणे, शोध रोबोटसाठी सामग्री स्कॅन करण्यासाठी आणि त्यांच्या डेटाबेसमध्ये समाकलित करण्यासाठी पुरेसे होते. स्पर्धेचा विजेता कोण होता हे नंतर विचारले असता, OpenAI आणि Google चॅटबॉट्स या दोघांनीही पत्रकाराचे नाव आणि त्याने शोधलेल्या बेताल तपशीलांचा हवाला देऊन खात्रीपूर्वक प्रतिसाद दिला.

डेटा अभियंते ज्याला “डेटा गॅप्स” किंवा “डेटा व्हॉईड्स” म्हणतात त्यामुळं ही घटना घडते. हे शोध संज्ञा किंवा विषय आहेत ज्यांच्याबद्दल इंटरनेटवर थोडीशी किंवा कोणतीही माहिती उपलब्ध नाही. जेव्हा कोणीतरी ही पोकळी भरण्यासाठी सामग्री तयार करते, तेव्हा जे लिहिले होते त्याची सत्यता सत्यापित करण्यासाठी कृत्रिम बुद्धिमत्तेमध्ये कोणतेही तुलनात्मक मापदंड नसतात. विधानावर विवाद करण्यासाठी इतर स्त्रोतांशिवाय, अल्गोरिदम असे गृहीत धरते की ही एकमेव — आणि म्हणून, योग्य — या विषयावर उपलब्ध माहिती आहे.

Leia Tambem

संशोधनातून असे दिसून आले आहे की पालकांना त्यांची मुले कृत्रिम बुद्धिमत्ता कशी वापरतात याबद्दल माहिती नसते

Zach Cregger चे नवीन Resident Evil गेमकडे दुर्लक्ष करते आणि नवीन पात्रांसह अभूतपूर्व कथेवर लक्ष केंद्रित करते

अफवा सुचविते की निन्टेन्डो स्विच 2 ची विशेष आवृत्ती ओकारिना ऑफ टाइमच्या रीमेकसह तयार करत आहे

ग्राहक आणि बाजारासाठी जोखीम

जरी अन्न स्पर्धेचे उदाहरण निरुपद्रवी असले तरी, वापरलेले तंत्र दुर्भावनापूर्ण हेतूंसाठी विनाशकारी परिणामांसह पुनरावृत्ती केली जाऊ शकते. डिजिटल गुन्हेगार उत्पादन, सेवा किंवा अगदी वैद्यकीय उपचारांबद्दल लोकांच्या धारणा हाताळण्यासाठी हेच तत्त्व वापरू शकतात. एखाद्या फसव्या गुंतवणुकीच्या व्यासपीठाची प्रशंसा करणारे खोटे लेख तयार करतात अशा परिस्थितीची कल्पना करा; काही काळापूर्वी, AI आर्थिक सल्ला घेणाऱ्या वापरकर्त्यांसाठी सुरक्षित पर्याय म्हणून या घोटाळ्याची शिफारस करू शकते.

या प्रकारच्या सिमेंटिक हल्ल्यासाठी आरोग्य सेवा क्षेत्र सर्वात असुरक्षित आहे. आहारातील पूरक आहारांचे खोटे फायदे समाविष्ट करणे किंवा औषधांमधील साइड इफेक्ट्स वगळणे रुग्णांची दिशाभूल करू शकते. बरेच लोक तंत्रज्ञानाच्या “तटस्थतेवर” विश्वास ठेवतात म्हणून, चॅटबॉटच्या प्रतिसादात अधिकाराचे वजन असते जे सहसा अनोळखी वेबसाइट वाचताना वापरकर्त्याच्या नैसर्गिक संशयापेक्षा जास्त असते. ही चुकीची माहिती तयार करण्यासाठी प्रवेशाचा अडथळा अक्षरशः अस्तित्वात नाही, फक्त इंटरनेट प्रवेश आणि मूलभूत लेखन कौशल्ये आवश्यक आहेत.

रिअल-टाइम पडताळणीचे आव्हान

Google आणि OpenAI सारख्या मोठ्या टेक कंपन्या सतत सांगतात की ते त्यांचे दर्जेदार फिल्टर आणि रँकिंग सिस्टम सुधारण्यासाठी काम करत आहेत. तथापि, आधुनिक वेबवर माहिती ज्या वेगाने प्रवास करते ती वर्तमान मानवी किंवा स्वयंचलित नियंत्रण क्षमतांना मागे टाकते. काही मिनिटांपूर्वी घडलेल्या तथ्यांचा समावेश असलेल्या द्रुत प्रतिसादांचे वितरण आणि या डेटाची संपूर्ण अचूकता सुनिश्चित करणे यामधील समतोल एक न सोडवलेले तांत्रिक आव्हान आहे.

पारंपारिक शोध इंजिनपासून AI-आधारित “उत्तर इंजिन” मध्ये संक्रमण मूलभूतपणे माहितीच्या स्त्रोताशी वापरकर्त्याचे नाते बदलते. जुन्या मॉडेलमध्ये, वापरकर्त्याने लिंक्सची सूची पाहिली आणि साइटच्या विश्वासार्हतेचे नाव किंवा देखावा तपासू शकतो. सध्याच्या मॉडेलमध्ये, AI माहिती चघळते आणि केवळ अंतिम परिणाम देते, अनेकदा मूळ स्त्रोत लपवते किंवा दुर्गम तळटीपांमध्ये ठेवते. हे वाचकांच्या बाजूने गंभीर पडताळणीचा एक महत्त्वपूर्ण स्तर काढून टाकते.

ही परिस्थिती पाहता, डिजिटल सुरक्षा तज्ञांची शिफारस स्वयंचलित प्रतिसादांच्या संबंधात अविश्वासाची निरोगी पातळी राखणे आहे, विशेषत: जे स्पष्ट स्त्रोत उद्धृत करत नाहीत किंवा अलीकडील आणि अस्पष्ट विषयांशी संबंधित आहेत. पारंपारिक प्रेस आउटलेट्स आणि अधिकृत वेबसाइट्सचे क्रॉस-चेकिंग हे फेरफार केलेल्या डेटाच्या शोषणाविरूद्ध एकमेव प्रभावी अडथळा आहे. जोपर्यंत अल्गोरिदम मानवांच्या तुलनेत गंभीर अर्थ विकसित करत नाहीत, तोपर्यंत तथ्ये प्रमाणित करण्याची अंतिम जबाबदारी वापरकर्त्याची असते.