रिपोर्टर ने सरल तरकीब बताई जो आधे घंटे से भी कम समय में चैटजीपीटी और जेमिनी प्रतिक्रियाओं को बदल देती है

बीबीसी के एक टेक्नोलॉजी रिपोर्टर ने अपनी निजी वेबसाइट पर एक पूरी तरह से आविष्कृत लेख बनाया और केवल 20 मिनट के प्रयास में, ओपनएआई के चैटजीपीटी और गूगल के जेमिनी जैसे कृत्रिम बुद्धिमत्ता उपकरण को दुनिया भर के उपयोगकर्ताओं के लिए गलत जानकारी दोहराने में कामयाब रहे। प्रयोग ने उन तंत्रों में खामियों का पता लगाया जिनका उपयोग एआई वास्तविक समय में इंटरनेट डेटा को खोजने और शामिल करने के लिए करता है। इसका उद्देश्य बड़े पैमाने पर दुष्प्रचार के वास्तविक जोखिमों को उजागर करना था, खासकर संवेदनशील विषयों पर।

रिपोर्टर थॉमस जर्मेन ने हॉट डॉग खाने की प्रतियोगिताओं में सर्वश्रेष्ठ प्रौद्योगिकी पत्रकार होने का दावा करते हुए एक पाठ प्रकाशित किया। उन्होंने 2026 साउथ डकोटा इंटरनेशनल हॉट डॉग चैंपियनशिप नामक एक गैर-मौजूद चैंपियनशिप का आविष्कार किया और खुद को सूची में शीर्ष पर स्थान दिया, जिसमें अनुमानित मंजूरी वाले वास्तविक सहयोगियों के नाम भी शामिल थे। 24 घंटे से भी कम समय के बाद, विषय पर प्रश्नों के कारण एआई ने झूठी सामग्री को तथ्य के रूप में पुन: पेश किया, जिसमें जेमिनी ऐप और Google के एआई अवलोकन शामिल थे।

परामर्श करने वाले विशेषज्ञों का कहना है कि यह तकनीक “डेटा शून्य” का फायदा उठाती है, वेब पर कम विश्वसनीय जानकारी वाले क्षेत्र, जहां एआई उपलब्ध स्रोतों पर बहुत अधिक भरोसा करते हैं, भले ही पृथक या संदिग्ध हों। यह ट्रिक पारंपरिक खोज इंजनों में पुरानी स्पैम प्रथाओं से मिलती जुलती है, लेकिन चैटबॉट्स के बड़े पैमाने पर अपनाने के साथ शक्ति प्राप्त करती है जो हमेशा कठोर सत्यापन को प्राथमिकता दिए बिना प्रतिक्रियाओं को संश्लेषित करते हैं।

विधि ने एआई में ज्ञात कमजोरियों का फायदा उठाया

यह प्रक्रिया उन्नत टूल या जटिल कोड की आवश्यकता के बिना, जल्दी से एक गलत लेख लिखने से शुरू हुई। जर्मेन ने इस बात को सुदृढ़ करने के लिए पाठ को अद्यतन किया कि यह व्यंग्य नहीं था, जिससे एआई को सामग्री को वैध मानने में मदद मिली। चैटजीपीटी और जेमिनी ने बेतुके दावों को सीधे प्रतिक्रियाओं में शामिल किया, अक्सर साइट को एकमात्र स्रोत के रूप में उद्धृत किया गया।

इस प्रकार का हेरफेर केवल चुटकुलों तक ही सीमित नहीं है। वास्तविक दुनिया के उदाहरणों में प्रायोजित सामग्री शामिल है जो हेयर ट्रांसप्लांट क्लीनिकों या सोने की निवेश कंपनियों के लिए सिफारिशों को प्रभावित करती है, जहां प्रेस विज्ञप्ति या भुगतान की गई वेबसाइटें परिणामों पर हावी होती हैं। एक मामले में, कैनबिस गमीज़ के एक ब्रांड को स्वास्थ्य अधिकारियों द्वारा दस्तावेजित जोखिमों की अनदेखी करते हुए “दुष्प्रभावों से मुक्त और सभी मामलों में सुरक्षित” बताया गया था।

विधि की आसानी चिंताजनक है क्योंकि इंटरनेट तक पहुंच वाला कोई भी व्यक्ति विभिन्न प्लेटफार्मों पर झूठी सामग्री प्रकाशित कर सकता है और वैश्विक प्रतिक्रियाओं को प्रभावित कर सकता है। ओपनएआई और गूगल जैसी कंपनियां स्पैम को कम करने के लिए रैंकिंग सिस्टम का उपयोग करने का दावा करती हैं, लेकिन विशेषज्ञों का कहना है कि ऑनलाइन प्रकाशन की गति को देखते हुए सुरक्षा अभी भी अपर्याप्त है।

जोखिम हानिरहित चुटकुलों से भी आगे जाते हैं

इसी तरह के हेरफेर पहले से ही स्वास्थ्य सलाह, वित्त या चुनावी जानकारी जैसे महत्वपूर्ण क्षेत्रों को प्रभावित करते हैं। उपयोगकर्ता मूल स्रोतों की जांच किए बिना एआई की आधिकारिक प्रतिक्रियाओं पर भरोसा करते हैं, जिससे नुकसान की संभावना बढ़ जाती है। हाल के एक अध्ययन से पता चला है कि जब एआई उत्तर खोजों के शीर्ष पर दिखाई देते हैं तो लिंक क्लिक में उल्लेखनीय कमी आती है।

एसईओ विशेषज्ञों का कहना है कि आज के एआई कुछ साल पहले के पारंपरिक खोज इंजनों की तुलना में इस तरह की युक्तियों के प्रति अधिक संवेदनशील हैं। तेजी से प्रगति और विज्ञापन राजस्व की दौड़ ने दुरुपयोग के खिलाफ मजबूत सुरक्षा उपायों पर सुविधाओं को प्राथमिकता दी है।

Leia Tambem

Alunos aguardam resultado LSS USS 2026 em Kerala; site oficial apresenta instabilidade para consulta

AP SSC 2026: Taxa de aprovação sobe para 85,25%; garotas mantêm desempenho superior

Loteria Karunya KR-751 em Kerala divulga vencedores e regras para resgatar prêmio de 1 crore de rúpias

वास्तविक दुनिया में बड़े पैमाने पर दुर्व्यवहार के उदाहरण

रिपोर्टें व्यवसाय को बढ़ावा देने या गलत सूचना फैलाने के लिए तकनीक के बड़े पैमाने पर उपयोग का संकेत देती हैं। भुगतान या निर्मित सामग्री संदिग्ध उत्पादों को विशिष्ट क्षेत्रों में सर्वश्रेष्ठ के रूप में स्थापित कर सकती है। अतिरिक्त परीक्षणों में, अन्य बेतुकी श्रेणियों के बारे में झूठी सूचियाँ भी एआई द्वारा अवशोषित कर ली गईं।

प्रयोग दर्शाता है कि लाखों उपयोगकर्ताओं को प्रतिक्रिया के रूप में जो मिलता है उसे बदलना सरल और त्वरित हो सकता है। यह एआई और तंत्र द्वारा उपयोग किए जाने वाले स्रोतों में अधिक पारदर्शिता की आवश्यकता को पुष्ट करता है जो पृथक या संदिग्ध सामग्री की पहचान करते हैं।

एआई टूल्स में भरोसे पर प्रभाव

जब बुनियादी तथ्यों को एक ही पोस्ट द्वारा बदला जा सकता है तो चैटबॉट प्रतिक्रियाओं पर भरोसा कम हो जाता है। उपयोगकर्ताओं को विशेष रूप से महत्वपूर्ण विषयों पर कई सत्यापित स्रोतों के साथ जानकारी की जांच करनी चाहिए। डेवलपर कंपनियां इन मुद्दों को कम करने के लिए एल्गोरिदम में बदलाव करना जारी रखती हैं, लेकिन खुले वेब पारिस्थितिकी तंत्र में चुनौती बनी रहती है।

वर्तमान बचाव और सिफ़ारिशें

OpenAI और Google स्पैम का पता लगाने और विश्वसनीय स्रोतों को प्राथमिकता देने के लिए फ़िल्टर लागू करते हैं, जो अधिकांश जोड़-तोड़ वाली सामग्री को ब्लॉक करने का दावा करते हैं। हालाँकि, प्रयोग से पता चलता है कि कमियाँ अभी भी मौजूद हैं, विशेषकर कम स्थापित कवरेज वाले विषयों पर।

उपयोगकर्ताओं के लिए नुकसान से बचने के लिए युक्तियाँ

हमेशा एआई की प्रतिक्रियाओं में उद्धृत स्रोतों से परामर्श लें। संवेदनशील विषयों के लिए केवल चैटबॉट्स पर आधारित निर्णय लेने से बचें। जब संभव हो तो पारंपरिक खोजों या आधिकारिक वेबसाइटों को प्राथमिकता दें।