كشفت التحقيقات الأخيرة في واجهة بحث جوجل عن فجوة مثيرة للقلق في بروتوكولات الأمان الخاصة بالمعلومات الصحية الناتجة عن الذكاء الاصطناعي. تعرض الملخصات التلقائية، التي تظهر في أعلى نتائج المواعيد الطبية، النصائح وأوصاف العلاج دون عرض إخلاء المسؤولية على الفور، وهي ضرورية لتنبيه المستخدم إلى أن المحتوى ليس بديلاً عن الاستشارة المهنية.
يتناقض غياب هذه التحذيرات الأولية مع الممارسات القياسية للمواقع الطبية والموسوعات الإلكترونية، والتي غالبًا ما تسلط الضوء على الحاجة إلى التحقق المهني قبل أي نص توضيحي. في النموذج الحالي لأداة البحث، يحتاج المستخدم إلى التفاعل بشكل نشط مع النظام الأساسي، والنقر على خيارات توسيع المحتوى والتمرير إلى نهاية النص، للعثور على التحذيرات القانونية بخطوط أصغر بالكاد مرئية.
تخفي الواجهة التنبيهات المهمة
تعطي بنية عرض البيانات الأولوية للتسليم السريع للاستجابة الاصطناعية، ولكنها تنتهي في النهاية بإخفاء معلومات حيوية حول طبيعة المحتوى. عند إجراء عمليات بحث عن الأعراض أو التشخيص أو الأدوية، يقوم النظام بإنشاء نص سلس ينقل السلطة، دون الضمانات المرئية التي تصاحب عادةً المواضيع الحساسة. إن إخلاء المسؤولية، الذي من المفترض أن يكون بمثابة حاجز أمني أساسي، يصبح مرئيًا فقط بعد أن ينقر المستخدم على “عرض المزيد” ويمرر عبر كتلة النص التي تم إنشاؤها بالكامل.
يثير تكوين التصميم هذا تساؤلات جدية حول مسؤولية المنصات الرقمية في نشر المعلومات الطبية. في حين أن المصادر التقليدية والمواقع المتخصصة تحافظ على تحذيرات ثابتة وبارزة، يبدو أن نهج الذكاء الاصطناعي التوليدي في هذه الحالة المحددة يقلل من تصور المخاطر، مما يخلق شعورًا زائفًا بالأمان للمرضى الذين يبحثون عن التشخيص الذاتي أو آراء ثانية على الإنترنت.
مخاطر الهلوسة وتأثيرها على المريض
ويحذر خبراء الطب والتكنولوجيا من أن حذف هذه التحذيرات يزيد من المخاطر الكامنة في النماذج اللغوية الكبيرة. حتى أنظمة الذكاء الاصطناعي الأكثر تقدمًا تخضع لـ “الهلوسة”، وهو مصطلح يستخدم لوصف الوقت الذي يقوم فيه النظام بتكوين البيانات أو تقديم معلومات غير صحيحة بثقة تامة. وبدون تنبيه واضح وفوري، قد لا يتمكن المستخدم العادي من التمييز بين الحقيقة المثبتة والجيل المحتمل من النص.
إن سهولة الوصول إلى الإجابات المباشرة، دون السياق المناسب لكونها أداة آلية غير معصومة من الخطأ، يمكن أن تؤدي إلى قرارات صحية خاطئة. إن التأخير في الحصول على رعاية طبية حقيقية أو انقطاع العلاجات بناءً على ملخصات الذكاء الاصطناعي هي سيناريوهات تثير قلق السلطات الصحية، خاصة وأن التكنولوجيا أصبحت الخط الأول للاستشارة لملايين الأشخاص.
استجابة المنصة والتدابير التصحيحية
وفي مواجهة الانتقادات وتحديد عيوب معينة، تبنت جوجل موقفًا رد الفعل، حيث قامت يدويًا بإزالة ملخصات الذكاء الاصطناعي التي تحتوي على أخطاء جسيمة أو معلومات خطيرة بعد الإبلاغ عنها. تؤكد الشركة أن أنظمتها مصممة لجلب معلومات عالية الجودة من الويب، ولكنها تدرك أن التعديلات ضرورية.
وعلى الرغم من التدخلات المحددة، فإن البنية العامة التي تنقل إخلاء المسؤولية إلى تذييل المحتوى الموسع لا تزال قائمة. تؤكد الشركة أن الميزة تكميلية وتهدف إلى توجيه المستخدم، لكن المجتمع التقني يدفع من أجل إجراء إصلاح شامل يضع سلامة المرضى في المقدمة، مما يضمن أن التمييز بين المشورة الطبية المهنية والملخص الخوارزمي لا لبس فيه من النظرة الأولى.
تكتسب المناقشة حول تنظيم الذكاء الاصطناعي في مجال الرعاية الصحية زخمًا جديدًا مع هذا السيناريو. وتصبح الحاجة إلى الشفافية الخوارزمية والمسؤولية المدنية للمنصات نقاطا مركزية في المناقشة حول كيفية تحقيق التوازن بين الابتكار التكنولوجي والحماية الفعالة للمستخدمين في لحظات الضعف الجسدي أو النفسي.