تقدم ميزة AI Overview من Google، والتي تلخص الإجابات في أعلى نتائج البحث، معلومات غير صحيحة في حوالي 10% من الحالات. أبرزت دراسة حديثة أنه مع تجاوز الحجم السنوي لعمليات البحث التي تجريها الشركة خمسة تريليونات، فإن هذا المعدل يؤدي إلى إصدار عشرات الملايين من الردود المشكوك فيها كل ساعة. تحدث حالات الفشل حتى عندما يستشهد النظام بالمصادر، ويمكن أن تتناوب الإجابات الخاطئة مع الإجابات الصحيحة اعتمادًا على تكرار نفس الاستعلام.
وقام خبراء من شركة الذكاء الاصطناعي مفتوحة المصدر Oumi بتحليل أداء المورد وحددوا أن الدقة تصل إلى 90% في الاختبارات الخاضعة للرقابة. ومع ذلك، فإن الحجم الكبير من الاستفسارات يزيد من تأثير عدم الدقة. يؤدي وضع نظرة عامة على الذكاء الاصطناعي في أعلى صفحة النتائج إلى زيادة ظهور هذه الإجابات، مما قد يدفع المستخدمين إلى اعتبارها جديرة بالثقة دون التحقق الإضافي.
- غالبًا ما تشير الإجابات غير الصحيحة إلى منشورات Facebook وReddit بمعدل أعلى من تلك الصحيحة.
- تظهر المصادر من الشبكات الاجتماعية من بين أكثر المصادر التي يشير إليها النظام.
- قد يؤثر التلاعب المتعمد من خلال المحتوى الزائف على المدونات أو مواقع الويب على الملخصات التي يتم إنشاؤها.
المصادر المذكورة وقضايا الموثوقية
ولاحظت الدراسة أن الإجابات الدقيقة تتحول إلى الفيسبوك في 5% من الحالات، بينما الإجابات غير الدقيقة ترفع هذه النسبة إلى 7%. في بعض المواقف، تعمل ميزة AI Overview على تشويه المعلومات الواردة من مصادر حسنة السمعة عن طريق تجميعها بشكل غير صحيح. تجعل هذه الديناميكية من الصعب تقييم جودة الاستجابات باستمرار، حيث يمكن للاستعلام المتكرر تغيير النتيجة دون تفسير واضح.
تؤكد Google أن الميزة تستخدم نفس آليات التصنيف والحماية من البريد العشوائي المطبقة على نتائج البحث التقليدية. تجادل الشركة بأن العديد من أمثلة الفشل تتضمن استعلامات غير عادية من غير المرجح أن يقوم بها المستخدمون الحقيقيون. ومع ذلك، فإن إخلاء المسؤولية المعروض في جميع الردود التي تم إنشاؤها بواسطة AI Overview يحذر من أن الذكاء الاصطناعي يمكن أن يرتكب أخطاء ويوصي بالتحقق مرة أخرى.
التأثير على الاستخدام اليومي ومصادر البيانات
يقوم المستخدمون بإجراء عمليات بحث متعددة على مدار اليوم، مما يضاعف التعرض المحتمل لمعلومات غير صحيحة. وتعتمد هذه الميزة على المسح الشامل للويب، بما في ذلك المنتديات ووسائل التواصل الاجتماعي، لتجميع الملخصات. عندما ينمو حجم المحتوى منخفض الجودة أو الذي تم التلاعب به، يزداد خطر دمجه في الاستجابات.
التحديات في تقييم الدقة
توضح الاختبارات أن نفس الاستعلام يمكن أن ينتج نتائج مختلفة في أوقات مختلفة. يؤدي هذا التباين إلى تعقيد القياس الدقيق لمعدل الخطأ واسع النطاق. يعطي النظام الأولوية للسرعة والتوليف، لكن هذا لا يضمن دائمًا الدقة في المحتوى الأصلي للمصادر التي تم الرجوع إليها.
إجابات جوجل وتوصياتها
تؤكد الشركة أنها نفذت تحسينات مستمرة منذ إطلاق المورد. تعمل وسائل الحماية من البريد العشوائي وآليات الأمان على حظر الكثير من المحتوى غير المناسب. يتم توجيه المستخدمين بشكل صريح للتحقق من المعلومات مقابل المصادر الأولية كلما أمكن ذلك.
اقتباسات وسائل التواصل الاجتماعي في نظرة عامة على الذكاء الاصطناعي
غالبًا ما تكون المنشورات من منصات مثل Facebook وReddit من بين مراجع نظرة عامة على الذكاء الاصطناعي. ويعكس هذا الاعتماد الوجود الهائل للمحتوى الذي ينشئه المستخدمون على الويب، ولكنه يقدم أيضًا مخاطر عندما يتم تجميع الآراء أو المعلومات التي لم يتم التحقق منها كحقائق. حددت الدراسة اختلافات طفيفة في كيفية ظهور هذه الخطوط في الإجابات الصحيحة مقابل الإجابات غير الصحيحة.
الصعوبات التي يواجهها المستخدمون العاديون
يدخل العديد من الأشخاص إلى Google بحثًا عن إجابات سريعة حول مجموعة متنوعة من المواضيع، بدءًا من الحقائق اليومية وحتى المعلومات الأكثر تعقيدًا. عندما تظهر نظرة عامة على الذكاء الاصطناعي أولاً، فإنها تؤثر بشكل مباشر على التصور الأولي للموضوع الذي تم الاستعلام عنه. يؤدي التناوب بين الإجابات الصحيحة والخاطئة في نفس الاستعلام إلى خلق حالة من عدم اليقين بشأن متى يجب الثقة في التلخيص التلقائي.
التدابير الأمنية والقيود
تطبق Google مرشحات أمان مشابهة لتلك المستخدمة في النتائج العضوية. وعلى الرغم من ذلك، لا تزال تظهر حالات معزولة من التحريف أو دمج محتوى مشكوك فيه. تواصل الشركة تعديل النموذج بناءً على التعليقات والتحليل الفني لتقليل حالات عدم الدقة.
الاستخدام المسؤول لميزة البحث
يوصي الخبراء بالتعامل مع نظرة عامة على الذكاء الاصطناعي كنقطة بداية وليس كمصدر نهائي. يساعد الجمع بين الاستعلامات المتعددة والتحقق من الروابط المذكورة في تخفيف المخاطر. يتضمن النظام نفسه تحذيرًا قياسيًا حول الأخطاء المحتملة في إنشاء المحتوى.
تطور الموارد مع مرور الوقت
منذ تطبيقه، خضع AI Overview لتعديلات لتحسين التكامل مع نتائج البحث التقليدية. تقوم الشركة بمراقبة أنماط الاستخدام وتصحيح العيوب التي تم تحديدها في الاختبارات الداخلية أو التقارير العامة. ويظل الهدف هو تقديم توليفات مفيدة دون الاستعاضة عن الاستشارة المباشرة بالمصادر الأصلية.
اعتبارات حجم البحث
تؤدي معالجة مليارات الاستعلامات اليومية إلى تضخيم أي معدل خطأ، حتى ولو بنسبة مئوية منخفضة. على المستوى العالمي، يمثل هذا تحديًا تقنيًا كبيرًا لأنظمة الذكاء الاصطناعي المطبقة على البحث في الوقت الفعلي. تعمل فرق التطوير باستمرار على تحسين خوارزميات التوليف والتحقق.