Google AI अवलोकन वैश्विक खोजों में प्रति घंटे लाखों गलत उत्तर उत्पन्न करता है

Google की AI अवलोकन सुविधा, जो खोज परिणामों के शीर्ष पर उत्तरों का सारांश प्रस्तुत करती है, लगभग 10% मामलों में गलत जानकारी प्रस्तुत करती है। एक हालिया अध्ययन में इस बात पर प्रकाश डाला गया है कि, कंपनी द्वारा संसाधित खोजों की वार्षिक मात्रा पाँच ट्रिलियन से अधिक होने के कारण, इस दर के परिणामस्वरूप हर घंटे लाखों संदिग्ध प्रतिक्रियाएँ जारी होती हैं। विफलताएँ तब भी होती हैं जब सिस्टम स्रोतों का हवाला देता है, और गलत उत्तर एक ही प्रश्न की पुनरावृत्ति के आधार पर सही उत्तरों के साथ वैकल्पिक हो सकते हैं।

ओपन-सोर्स आर्टिफिशियल इंटेलिजेंस कंपनी ओउमी के विशेषज्ञों ने संसाधन के प्रदर्शन का विश्लेषण किया और पहचाना कि नियंत्रित परीक्षणों में सटीकता 90% तक पहुंच जाती है। हालाँकि, प्रश्नों की अधिक मात्रा अशुद्धियों के प्रभाव को बढ़ा देती है। परिणाम पृष्ठ के शीर्ष पर एआई अवलोकन को रखने से इन उत्तरों की दृश्यता बढ़ जाती है, जिससे उपयोगकर्ता अतिरिक्त सत्यापन के बिना उन्हें भरोसेमंद मान सकते हैं।

• गलत उत्तर अक्सर फेसबुक और रेडिट पोस्ट को सही उत्तरों की तुलना में अधिक दर पर उद्धृत करते हैं।
• सामाजिक नेटवर्क के स्रोत सिस्टम द्वारा सर्वाधिक संदर्भित स्रोतों में से एक हैं।
• ब्लॉग या वेबसाइटों पर झूठी सामग्री के माध्यम से जानबूझकर की गई हेराफेरी उत्पन्न सारांश को प्रभावित कर सकती है।

सूत्रों का हवाला दिया गया और विश्वसनीयता के मुद्दे

अध्ययन में कहा गया है कि 5% मामलों में सटीक प्रतिक्रियाएँ फेसबुक की ओर जाती हैं, जबकि गलत प्रतिक्रियाएँ इस दर को 7% तक बढ़ा देती हैं। कुछ स्थितियों में, एआई अवलोकन प्रतिष्ठित स्रोतों से जानकारी को गलत तरीके से संश्लेषित करके विकृत करता है। यह गतिशीलता प्रतिक्रियाओं की गुणवत्ता का लगातार आकलन करना कठिन बना देती है, क्योंकि बार-बार की गई क्वेरी स्पष्ट स्पष्टीकरण के बिना परिणाम को बदल सकती है।

Google का कहना है कि यह सुविधा पारंपरिक खोज परिणामों पर लागू समान रैंकिंग और स्पैम सुरक्षा तंत्र का उपयोग करती है। कंपनी का तर्क है कि विफलताओं के कई उदाहरणों में असामान्य क्वेरीज़ शामिल होती हैं जिन्हें वास्तविक उपयोगकर्ता निष्पादित करने की संभावना नहीं रखते हैं। फिर भी, एआई अवलोकन द्वारा उत्पन्न सभी प्रतिक्रियाओं में प्रदर्शित अस्वीकरण चेतावनी देता है कि कृत्रिम बुद्धिमत्ता गलतियाँ कर सकती है और दोबारा जाँच की सिफारिश करती है।

दैनिक उपयोग और डेटा स्रोतों पर प्रभाव

उपयोगकर्ता दिन भर में कई खोज करते हैं, जिससे गलत जानकारी मिलने की संभावना कई गुना बढ़ जाती है। सारांश संकलित करने के लिए यह सुविधा फ़ोरम और सोशल मीडिया सहित वेब की व्यापक स्कैनिंग पर निर्भर करती है। जब निम्न-गुणवत्ता या हेरफेर की गई सामग्री की मात्रा बढ़ती है, तो प्रतिक्रियाओं में शामिल होने का जोखिम बढ़ जाता है।

सटीकता का आकलन करने में चुनौतियाँ

परीक्षण दर्शाते हैं कि एक ही क्वेरी अलग-अलग समय पर अलग-अलग परिणाम दे सकती है। यह परिवर्तनशीलता पूर्ण पैमाने पर त्रुटि दर के सटीक माप को जटिल बनाती है। सिस्टम गति और संश्लेषण को प्राथमिकता देता है, लेकिन यह हमेशा परामर्श किए गए स्रोतों की मूल सामग्री के प्रति निष्ठा की गारंटी नहीं देता है।

Google उत्तर और अनुशंसाएँ

कंपनी इस बात पर ज़ोर देती है कि उसने संसाधन के लॉन्च के बाद से लगातार सुधार लागू किए हैं। स्पैम सुरक्षा और सुरक्षा तंत्र बहुत सी अनुपयुक्त सामग्री को रोकते हैं। उपयोगकर्ताओं को जब भी संभव हो प्राथमिक स्रोतों के विरुद्ध जानकारी की जांच करने के लिए स्पष्ट रूप से निर्देशित किया जाता है।

एआई अवलोकन में सोशल मीडिया उद्धरण

Leia Tambem

जून में ऑफिस पैशन और ओएसिस के साथ रोमांटिक कॉमेडी और रहस्य नेटफ्लिक्स पर आएंगे

उरुग्वे ने 2026 विश्व कप के लिए छह ब्राजीलियाई फुटबॉल खिलाड़ियों के साथ टीम की सूची की घोषणा की

2026 विश्व कप कब शुरू होगा? दिनांक, समय, पहला खेल और उद्घाटन समारोह

फेसबुक और रेडिट जैसे प्लेटफार्मों के पोस्ट अक्सर एआई अवलोकन संदर्भों में होते हैं। यह निर्भरता वेब पर उपयोगकर्ता-जनित सामग्री की व्यापक उपस्थिति को दर्शाती है, लेकिन जब असत्यापित राय या जानकारी को तथ्यों के रूप में संश्लेषित किया जाता है तो यह जोखिम भी पैदा करता है। अध्ययन ने इस बात में सूक्ष्म अंतर की पहचान की कि ये फ़ॉन्ट सही बनाम गलत उत्तरों में कैसे दिखाई देते हैं।

आम उपयोगकर्ताओं के लिए कठिनाइयाँ

बहुत से लोग रोजमर्रा के तथ्यों से लेकर अधिक जटिल जानकारी तक, विभिन्न विषयों पर त्वरित उत्तर की तलाश में Google का उपयोग करते हैं। जब एआई अवलोकन पहली बार दिखाई देता है, तो यह सीधे पूछे गए विषय की प्रारंभिक धारणा को प्रभावित करता है। एक ही प्रश्न में सही और गलत उत्तरों के बीच परिवर्तन करने से स्वचालित सारांशीकरण पर कब भरोसा किया जाए, इस बारे में अनिश्चितता पैदा होती है।

सुरक्षा उपाय और सीमाएँ

Google ऑर्गेनिक परिणामों में उपयोग किए जाने वाले समान सुरक्षा फ़िल्टर लागू करता है। इसके बावजूद, विकृतियों या संदिग्ध सामग्री के समावेश के छिटपुट मामले अभी भी सामने आते हैं। कंपनी अशुद्धियों की घटनाओं को कम करने के लिए फीडबैक और तकनीकी विश्लेषण के आधार पर मॉडल को समायोजित करना जारी रखती है।

खोज सुविधा का जिम्मेदारीपूर्ण उपयोग

विशेषज्ञ एआई अवलोकन को एक निश्चित स्रोत के बजाय शुरुआती बिंदु के रूप में मानने की सलाह देते हैं। अनेक प्रश्नों के संयोजन और उद्धृत लिंक की जाँच करने से जोखिमों को कम करने में मदद मिलती है। सिस्टम में स्वयं सामग्री निर्माण में संभावित गलतियों के बारे में एक मानक चेतावनी शामिल है।

समय के साथ संसाधन विकास

इसके कार्यान्वयन के बाद से, पारंपरिक खोज परिणामों के साथ एकीकरण को बेहतर बनाने के लिए एआई अवलोकन में समायोजन किया गया है। कंपनी उपयोग पैटर्न की निगरानी करती है और आंतरिक परीक्षणों या सार्वजनिक रिपोर्टों में पहचानी गई खामियों को ठीक करती है। इसका उद्देश्य मूल स्रोतों के साथ सीधे परामर्श को बदले बिना उपयोगी संश्लेषण प्रदान करना है।

खोज मात्रा संबंधी विचार

प्रतिदिन अरबों प्रश्नों को संसाधित करने से किसी भी त्रुटि की दर बढ़ जाती है, यहाँ तक कि कम प्रतिशत भी। वैश्विक स्तर पर, यह वास्तविक समय की खोज पर लागू कृत्रिम बुद्धिमत्ता प्रणालियों के लिए एक महत्वपूर्ण तकनीकी चुनौती का प्रतिनिधित्व करता है। विकास दल संश्लेषण और सत्यापन एल्गोरिदम को परिष्कृत करने के लिए लगातार काम कर रहे हैं।