Ο Google δέχεται κριτική επειδή δεν εμφανίζει ευδιάκριτα ειδοποιήσεις ασφαλείας σε περιλήψεις ερευνών που σχετίζονται με την υγεία που δημιουργούνται από την τεχνητή νοημοσύνη. Μια πρόσφατη έρευνα έδειξε ότι το εργαλείο AI Overview, το οποίο εμφανίζει συνοπτικές απαντήσεις στην κορυφή των αποτελεσμάτων αναζήτησης, δεν περιλαμβάνει καμία δήλωση αποποίησης όταν ο χρήστης δει για πρώτη φορά ιατρικές συμβουλές. Η προειδοποίηση εμφανίζεται μόνο αφού ο χρήστης του Διαδικτύου κάνει κλικ σε επιλογές για επέκταση του περιεχομένου, όπως “Εμφάνιση περισσότερων”, και ακόμη και τότε εμφανίζεται στο τέλος του κειμένου, με μικρότερη και λιγότερο εμφανή γραμματοσειρά σε σύγκριση με τις υπόλοιπες πληροφορίες που παρουσιάζονται.
Αυτή η διαμόρφωση μπορεί να οδηγήσει σε υπερβολική εξάρτηση από αυτόματες απαντήσεις, ειδικά σε ευαίσθητα θέματα όπως διαγνώσεις, θεραπείες ή ερμηνείες δοκιμών. Το Especialistas στην τεχνητή νοημοσύνη και εκπρόσωποι οργανώσεων ασθενών υπογραμμίζουν ότι η προνομιακή θέση των περιλήψεων στο επάνω μέρος της σελίδας αποθαρρύνει τον έλεγχο πρόσθετων πηγών ή τη διαβούλευση με ειδικευμένους επαγγελματίες υγείας.
Η τοποθέτηση των ειδοποιήσεων προκαλεί διαμάχη
Η απουσία ορατής δήλωσης αποποίησης ευθύνης στην αρχή των ιατρικών περιλήψεων έχει αναγνωριστεί ως παράγοντας που θέτει σε κίνδυνο την ασφάλεια των χρηστών. Quando το περιεχόμενο επεκτείνεται, η προειδοποίηση αναφέρει την πιθανότητα σφαλμάτων και συνιστά την αναζήτηση επαγγελματικής καθοδήγησης, αλλά πολλοί χρήστες του Διαδικτύου δεν φτάνουν σε αυτό το στάδιο.
Οι οντότητες που επικεντρώνονται σε ασθενείς με σοβαρές παθήσεις υποστηρίζουν ότι η ειδοποίηση πρέπει να εμφανίζεται αμέσως και με την ίδια τυπογραφική έμφαση όπως το κύριο κείμενο. Το μέτρο Essa θα βοηθούσε στη διακοπή της αυτόματης ανάγνωσης και θα ενθαρρύνει μια πιο κριτική αξιολόγηση των πληροφοριών που λαμβάνονται.
Οι ειδικοί προειδοποιούν για τους κινδύνους των παραισθήσεων AI
Τα μοντέλα τεχνητής νοημοσύνης, ακόμη και τα πιο προηγμένα, μπορούν να δημιουργήσουν επινοημένες πληροφορίες ή να δώσουν προτεραιότητα σε απαντήσεις που ακούγονται αληθοφανείς έναντι ακριβείς. Το χαρακτηριστικό Essa, γνωστό ως παραισθήσεις, ενέχει μεγαλύτερο κίνδυνο στις διαβουλεύσεις με την υγειονομική περίθαλψη, όπου οι εσφαλμένες λεπτομέρειες μπορούν να επηρεάσουν σημαντικές αποφάσεις.
Οι ερευνητές τονίζουν ότι οι εμφανείς προειδοποιήσεις χρησιμεύουν ως ουσιαστικό σημείο παρέμβασης. Το Eles σπάει την αντίληψη της απόλυτης εξουσίας και ενθαρρύνει τον χρήστη να διασταυρώσει τα δεδομένα με άλλες αξιόπιστες πηγές πριν ενεργήσει με βάση τη σύνοψη που δημιουργείται.
Η Google υπερασπίζεται την τρέχουσα προσέγγιση του εργαλείου
Ένας εκπρόσωπος της εταιρείας είπε ότι οι περιλήψεις τεχνητής νοημοσύνης συχνά περιλαμβάνουν αναφορές για την ανάγκη να συμβουλευτείτε τους επαγγελματίες υγείας απευθείας στο κείμενο, όταν χρειάζεται. Η πρόταση για αναζήτηση ιατρικής φροντίδας θεωρείται κεντρικό στοιχείο του συστήματος που έχει σχεδιαστεί για την καθοδήγηση των χρηστών.
Η εταιρεία ενισχύει ότι οι επισκοπήσεις που δημιουργούνται από την τεχνητή νοημοσύνη επιδιώκουν να είναι χρήσιμες και να βασίζονται σε πηγές ποιότητας που είναι διαθέσιμες στον Ιστό. Ωστόσο, οι επικριτές υποστηρίζουν ότι η δομή της διεπαφής εξακολουθεί να επιτρέπει την κατανάλωση του κύριου περιεχομένου χωρίς τη δέουσα προσοχή στο πλαίσιο.
Εντείνεται η κριτική στα ιδρύματα ασθενών
Οργανώσεις που επικεντρώνονται στην υποστήριξη ασθενών με σοβαρές ασθένειες, όπως οι αιματολογικοί καρκίνοι, θεωρούν τα τρέχοντα μέτρα ανεπαρκή για την προστασία του κοινού. Ο Elas υποστηρίζει ότι η ειδοποίηση πρέπει να είναι η πρώτη ορατή πληροφορία, με μέγεθος γραμματοσειράς ισοδύναμο με αυτό της κύριας περίληψης.
Η έλλειψη άμεσης προβολής μπορεί να εμποδίσει άτομα με πραγματικές παθήσεις να αναζητήσουν κατάλληλη ανθρώπινη διάγνωση ή θεραπεία. Το Entidades προειδοποιεί ότι οι απαντήσεις που εμφανίζονται πλήρεις και οριστικές στο επάνω μέρος της οθόνης δημιουργούν μια ψευδή αίσθηση ασφάλειας και μειώνουν την πιθανότητα πρόσθετων αναζητήσεων.
Προηγούμενες περιπτώσεις οδήγησαν σε μερικές προσαρμογές
Στα πρόσφατα επεισόδια, οι έρευνες είχαν ήδη εντοπίσει ανακριβείς ή παραπλανητικές απαντήσεις σε συγκεκριμένες ιατρικές επισκέψεις, όπως εύρη αναφοράς για ηπατικές εξετάσεις. Após δημόσια έκθεση, ο Google αφαίρεσε τις περιλήψεις τεχνητής νοημοσύνης για ορισμένα ακριβή ερωτήματα, αν και οι παραλλαγές στις αναζητήσεις θα μπορούσαν να εξακολουθήσουν να ενεργοποιούν τη λειτουργία.
Αυτές οι προσαρμογές προέκυψαν ως απόκριση σε αναφορές πληροφοριών που έρχονταν σε αντίθεση με τις καθιερωμένες ιατρικές οδηγίες. Ο Especialistas συνεχίζει να αμφισβητεί εάν οι εφάπαξ αφαιρέσεις λύνουν το συστημικό πρόβλημα της ορατότητας των συναγερμών σε όλες τις επισκέψεις υγειονομικής περίθαλψης.
Θέση της εταιρείας σχετικά με την αξιοπιστία
Η Google υποστηρίζει ότι τα εργαλεία τεχνητής νοημοσύνης της ενθαρρύνουν επαγγελματικά ερωτήματα και ότι οι περιλήψεις είναι συγκρίσιμες σε ακρίβεια με άλλους παραδοσιακούς πόρους αναζήτησης. Η εταιρεία εργάζεται για τη βελτίωση του συστήματος βάσει εσωτερικών σχολίων και ανασκοπήσεων, συμπεριλαμβανομένων των αξιολογήσεων από κλινικές ομάδες.
Παρά τις εγγυήσεις, η διαμόρφωση των αποποιήσεων εξακολουθεί να αμφισβητείται. Η προτεραιότητα που δίνεται στο παραγόμενο περιεχόμενο έναντι της προειδοποίησης μπορεί να επηρεάσει ιδιαίτερα τους ευάλωτους χρήστες που βασίζονται σε διαδικτυακές αναζητήσεις για αρχική καθοδήγηση υγείας.