Το Microsoft δημοσίευσε μια παγκόσμια έκθεση που εκθέτει την αυξανόμενη ευπάθεια των εφήβων σε ψευδές περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη. Apenas Το 25% των νέων μπορεί να αναγνωρίσει σωστά τα deepfakes, αντιπροσωπεύοντας μια δραστική πτώση από το 46% που είχε καταγραφεί ένα χρόνο νωρίτερα. Η μελέτη, που ξεκίνησε κοντά στο Internet Segura του Dia, περιελάμβανε χιλιάδες συμμετέχοντες σε πολλές χώρες και αποκαλύπτει ένα ανησυχητικό σενάριο: καθώς η τεχνολογία προχωρά, η ικανότητα των εφήβων να ανιχνεύουν ψηφιακούς χειρισμούς μειώνεται σημαντικά.
Η ανησυχητική πτώση στον εντοπισμό πλαστού περιεχομένου
Η μείωση κατά 21 ποσοστιαίες μονάδες στον εντοπισμό των deepfakes αντανακλά την επιταχυνόμενη πρόοδο των τεχνολογιών παραγωγής. Το Vídeos, οι ψεύτικες εικόνες και ο ήχος έχουν γίνει σταδιακά πιο ρεαλιστικά, καθιστώντας δύσκολη την επαλήθευση των απλών χρηστών. Το Adolescentes αντιμετωπίζει μια αυξανόμενη πρόκληση όταν προσπαθεί να διακρίνει τα αυθεντικά υλικά από τις τεχνητές παραγωγές, ειδικά όταν δημιουργούνται με εξελιγμένα εργαλεία τεχνητής νοημοσύνης.
Η πολυπλοκότητα των deepfakes έχει αυξηθεί εκθετικά τους τελευταίους μήνες. Τα συστήματα παραγωγής περιεχομένου Plataformas έχουν βελτιώσει τους αλγόριθμούς τους, καθιστώντας τα ψεύτικα πρακτικά δυσδιάκριτα από το πρωτότυπο στο μη εκπαιδευμένο μάτι. Το σενάριο Esse τοποθετεί τους νέους σε ευάλωτη θέση, καθώς πολλοί δεν έχουν ειδική εκπαίδευση για να αναγνωρίζουν σημάδια οπτικής ή ακουστικής χειραγώγησης.
Riscos ψηφιακά πρόσωπα που αντιμετωπίζουν οι έφηβοι
Το Cerca του 64% των εφήβων αντιμετώπισε τουλάχιστον έναν διαδικτυακό κίνδυνο κατά την περίοδο που αναλύθηκε. Οι βασικοί κίνδυνοι περιλαμβάνουν τη ρητορική μίσους, τις απάτες και τον διαδικτυακό εκφοβισμό, που επηρεάζουν άμεσα την ψυχολογική ευημερία και την προσωπική ασφάλεια των νέων. Η συχνότητα αυτών των περιστατικών έχει αυξηθεί σε σχέση με προηγούμενες περιόδους, αναδεικνύοντας την κλιμάκωση των απειλών στο ψηφιακό περιβάλλον.
- Το Discurso μίσους αναφέρθηκε από το 35% των συμμετεχόντων.
- Το Golpes και η διαδικτυακή απάτη αναφέρθηκαν από το 29% των εφήβων.
- Το Cyberbullying αναφέρθηκε από το 23% των νέων που συμμετείχαν.
Οι έφηβοι του Muitos συνδέουν μέρος αυτών των προβλημάτων με την κακή χρήση της τεχνητής νοημοσύνης. Το Scams που περιλαμβάνει ψευδές περιεχόμενο έχει γίνει πιο συνηθισμένο και εξελιγμένο, εκμεταλλευόμενο τη δυσκολία των νέων στην επικύρωση πληροφοριών. Ο συνδυασμός Essa προηγμένης τεχνολογίας και έλλειψης ψηφιακής παιδείας δημιουργεί ένα περιβάλλον που ευνοεί την απάτη και τη χειραγώγηση.
Expansão της χρήσης εργαλείων AI μεταξύ των νέων
Η εβδομαδιαία χρήση της γενετικής τεχνητής νοημοσύνης αυξήθηκε σημαντικά, φτάνοντας το 38% των εφήβων ερωτηθέντων. Οι νέοι χρησιμοποιούν αυτές τις τεχνολογίες για διάφορους πρακτικούς σκοπούς, από την απάντηση σε ερωτήσεις μέχρι τον προγραμματισμό δραστηριοτήτων και τη βελτίωση της αποτελεσματικότητας των σχολικών εργασιών. Η υιοθέτηση του Essa αντανακλά τα αντιληπτά οφέλη της τεχνητής νοημοσύνης, αλλά επίσης αυξάνει την έκθεση σε κινδύνους που σχετίζονται με την ακατάλληλη χρήση του.
- Οι ερωτήσεις Respostas υιοθετήθηκαν από το 42% των χρηστών τεχνητής νοημοσύνης.
- Το Planejamento των δραστηριοτήτων χρησιμοποιήθηκε από το 41% των εφήβων.
- Το Melhoria στην αποδοτικότητα εργασίας αναφέρθηκε από το 37% των νέων.
Οι έφηβοι εκτιμούν την αλληλεπίδραση με αυτά τα εργαλεία επειδή προσφέρουν γρήγορες και προσιτές απαντήσεις. Το Elas βοηθά με σπουδές, προσωπική οργάνωση και παραγωγικότητα, αποτελώντας αναπόσπαστο μέρος της ψηφιακής ρουτίνας. Ωστόσο, αυτή η αυξανόμενη εξοικείωση με την τεχνητή νοημοσύνη δεν συμβαδίζει με την ανάπτυξη κρίσιμων δεξιοτήτων για τον εντοπισμό κακόβουλου περιεχομένου που δημιουργείται από την ίδια τεχνολογία.
Ευρέως διαδεδομένο Preocupações με αρνητικές επιπτώσεις AI
Aproximadamente Το 91% των εφήβων εκφράζει κάποιο επίπεδο ανησυχίας για τις αρνητικές επιπτώσεις της τεχνητής νοημοσύνης. Οι κύριες κατασχέσεις αφορούν ευαίσθητες περιοχές που επηρεάζουν άμεσα την προσωπική ασφάλεια και την ιδιωτική ζωή των νέων. Το Exploração ή η σεξουαλική κακοποίηση οδηγεί τις αναφορές, τις οποίες αναφέρει το 78% των συμμετεχόντων, ακολουθούμενο από την απάτη που βασίζεται στην τεχνητή νοημοσύνη, η οποία αφορά το 77% των εφήβων.
Οι απειλές απορρήτου Violações συμπληρώνουν την κύρια ομάδα απειλών, με 70% συμμόρφωση μεταξύ των ερωτηθέντων. Οι ανησυχίες του Essas καταδεικνύουν αυξανόμενη συνειδητοποίηση σχετικά με τα όρια και τους κινδύνους της τεχνολογίας. Το Adolescentes αναγνωρίζει τις αντισταθμίσεις μεταξύ οφελών και κινδύνων, αναμένοντας από τις εταιρείες να εφαρμόσουν πρόσθετες προστασίες για τον περιορισμό του παράνομου ή επιβλαβούς περιεχομένου.
Resiliência και προστατευτικές ενέργειες εφήβων
Apesar των κινδύνων, το 72% των εφήβων επέδειξαν ανθεκτικότητα όταν μιλούσαν σε κάποιον αφού αντιμετώπισαν μια ψηφιακή απειλή. Οι συνομιλίες Essas συνήθως γίνονται με γονείς, φίλους ή δασκάλους, βοηθώντας στην επεξεργασία αρνητικών εμπειριών και στην αναζήτηση καθοδήγησης. Τα ποσοστά αναφοράς για ακατάλληλο περιεχόμενο αυξήθηκαν επίσης για δεύτερη συνεχή χρονιά, με περίπου το 75% να λαμβάνει προστατευτικά μέτρα όπως ο αποκλεισμός χρηστών ή ο τερματισμός λογαριασμών.
Η στάση Essa υποδηλώνει ανάπτυξη μηχανισμών αντιμετώπισης μεταξύ των νέων. Το Adolescentes αναζητά υποστήριξη για τον μετριασμό των επιπτώσεων συμβάντων και την ενίσχυση της ψηφιακής τους ασφάλειας. Ο συνδυασμός αναζήτησης βοήθειας και άμεσων ενεργειών καταδεικνύει αυξανόμενη ωριμότητα στη διαδικτυακή διαχείριση κινδύνου, αν και εξακολουθεί να είναι ανεπαρκής δεδομένης της πολυπλοκότητας των απειλών.
Iniciativas από Microsoft για ψηφιακή προστασία
Το Microsoft ενισχύει τους μηχανισμούς προστασίας ως απάντηση σε εντοπισμένους κινδύνους, αναπτύσσοντας εργαλεία σε πλατφόρμες όπως οι Windows και Xbox για μεγαλύτερο γονικό έλεγχο. Τα εκπαιδευτικά προγράμματα Programas αναδεικνύονται στις δράσεις της εταιρείας, προάγοντας υπεύθυνες συνήθειες στους νέους χρήστες. Ένα συμβούλιο νέων για το μέλλον της τεχνητής νοημοσύνης συγκεντρώνει εφήβους για άμεση ανατροφοδότηση, επιτρέποντας στους συμμετέχοντες από διαφορετικές περιοχές να συνεισφέρουν προοπτικές για τις αναδυόμενες τεχνολογίες.
Η Parcerias με εξειδικευμένους οργανισμούς επεκτείνει την εμβέλεια των πρωτοβουλιών που επικεντρώνονται στην εκπαίδευση σχετικά με την ασφαλή χρήση βοηθών τεχνητής νοημοσύνης. Το Materiais ως σειρές στο Minecraft Education καλύπτουν θέματα όπως η ηλεκτρονική στρατολόγηση και η ψηφιακή χειραγώγηση, προσεγγίζοντας εκατομμύρια χρήστες σε όλο τον κόσμο. Ο συνδυασμός τεχνολογίας, πολιτικής και εκπαίδευσης αποτελεί τη βάση των στρατηγικών που εφαρμόζονται, επιδιώκοντας να ενισχύσουν την ψηφιακή ανθεκτικότητα των εφήβων και να τους εξοπλίσουν με εργαλεία για την πλοήγηση σε ένα όλο και πιο περίπλοκο περιβάλλον.