Meta menggunakan kecerdasan buatan untuk mendeteksi anak di bawah umur di Instagram dan Facebook

Meta mengumumkan akan menerapkan sistem kecerdasan buatan untuk mengidentifikasi pengguna di bawah usia 13 tahun di Instagram dan Facebook melalui analisis gambar dan data profil. Teknologi ini akan mulai beroperasi pada Brasil, Estados Unidos dan União Europeia mulai sekarang. Sistem ini memeriksa karakteristik visual seperti tinggi badan dan struktur tulang, serta informasi kontekstual dari profil pengguna, untuk memperkirakan usia tanpa menggunakan pengenalan wajah tradisional.

Perusahaan mengembangkan solusi ini dalam menghadapi tekanan peraturan dan keamanan yang menuntut perlindungan yang lebih kuat terhadap anak di bawah umur secara online. Diferentemente dari platform lain yang meminta selfie atau dokumen identifikasi, Meta memilih pendekatan berdasarkan analisis konten dan karakteristik visual yang ada dalam publikasi yang sudah tersedia di akun.

Kecerdasan buatan Como mengidentifikasi anak di bawah umur

Meta menjelaskan bahwa AI-nya terus memindai foto dan video untuk mencari petunjuk visual tentang usia pengguna. Sistem tidak terbatas pada karakteristik fisik saja. Ele memproses postingan, komentar, bios, dan teks untuk menemukan isyarat kontekstual yang menunjukkan apakah seseorang masih di bawah umur.

Entre indikator kontekstual yang dianalisis oleh kecerdasan buatan mencakup penyebutan hari ulang tahun, referensi nilai sekolah, bahasa khas anak di bawah umur, dan pola perilaku digital khusus untuk kelompok usia ini. Teknologi ini terus diperluas ke bagian aplikasi lainnya, termasuk grup Instagram Reels, Instagram Live, dan Facebook.

Sistem ini bekerja melalui analisis berlapis-lapis. AI tidak didasarkan pada faktor visual atau tekstual tunggal, namun pada kombinasi bukti yang secara bersama-sama menunjukkan kemungkinan usia pengguna. Pendekatan Essa dipilih karena memungkinkan akurasi yang lebih baik dan mengurangi kasus positif palsu yang dapat memengaruhi akun dewasa yang sah.

Consequências untuk akun yang diidentifikasi sebagai milik anak di bawah umur

Quando hingga Meta mendeteksi bahwa sebuah akun milik pengguna di bawah 13 tahun, platform secara otomatis menonaktifkan akun ini. Pengguna menerima pemberitahuan tentang tindakan tersebut dan memiliki kesempatan untuk membuktikan usianya dengan mengirimkan dokumen identifikasi yang valid. Sem buktinya, akun tetap dinonaktifkan dan dapat dihapus sepenuhnya.

Perusahaan menyadari bahwa verifikasi usia secara online menghadirkan tantangan yang kompleks bagi seluruh industri. Anak di bawah umur Muitos dapat membuat akun dengan memberikan tanggal lahir dewasa palsu saat pendaftaran. Oleh karena itu, Meta memahami bahwa analisis konten dan perilaku yang berkelanjutan diperlukan untuk melengkapi pemeriksaan yang dilakukan pada saat pembuatan akun.

Prosesnya tidak instan. Meta melakukan analisis akun secara berkala, dan sistem terus belajar dari data baru. Perusahaan mengatakan mereka berinvestasi dalam teknologi canggih untuk meminimalkan kesalahan identifikasi yang dapat membahayakan pengguna dewasa yang sah.

Mengapa Meta tidak menggunakan pengenalan wajah

Keputusan untuk tidak menggunakan pengenalan wajah menandai perbedaan dibandingkan platform media sosial lainnya. Kompetitor Muitas mengadopsi permintaan selfie atau ID foto yang diperlukan untuk verifikasi usia. Pendekatan Essas menimbulkan pertanyaan tentang privasi dan pengumpulan data biometrik.

Meta berpendapat bahwa solusinya tidak terlalu invasif dari sudut pandang privasi. Alih-alih menangkap data biometrik wajah, sistem menganalisis konten yang telah dipublikasikan secara sukarela oleh pengguna. Perusahaan mengatakan metodologi ini menawarkan perlindungan yang memadai tanpa memerlukan catatan biometrik terpusat.

Ainda dengan demikian, analisis struktur tulang dan tinggi badan dari gambar publik menimbulkan perdebatan tentang privasi. Críticos berpendapat bahwa pendekatan ini mengekstraksi data biometrik dengan cara yang kurang jelas. Além Selanjutnya, analisis konteks profil melibatkan pemindaian percakapan, tema, dan hubungan pengguna.

Implementação global dan regulasi

Peluncuran teknologi ini pada Brasil terjadi pada saat perdebatan sengit mengenai regulasi jaringan sosial dan perlindungan anak di bawah umur. Negara ini memiliki peraturan seperti Lei Geral, Proteção, Dados (LGPD) dan sedang memajukan undang-undang khusus untuk keselamatan anak secara online. Penerapan di AS dan União Europeia mencerminkan persyaratan peraturan di pasar tersebut.

Na União Europeia, Digital Services Act mengatur platform yang menekan untuk menunjukkan tindakan nyata dalam melindungi anak di bawah umur. Nos AS, beberapa negara bagian telah mengeluarkan undang-undang yang mewajibkan verifikasi usia yang lebih ketat di media sosial. Brasil, pada gilirannya, mengintensifkan diskusi tentang perlindungan anak di bawah umur secara online menyusul kasus pelecehan dan paparan terhadap anak-anak.

Meta memposisikan teknologi ini sebagai respons terhadap persyaratan peraturan global. Perusahaan menekankan untuk selalu mengikuti perkembangan hukum setempat di setiap wilayah tempatnya beroperasi. Sistem ini akan diterapkan dengan menghormati peraturan privasi dan perlindungan data di setiap yurisdiksi.

Desafios dan keterbatasan teknologi

Sistem deteksi usia Nenhum sempurna. Demografi Dados menunjukkan bahwa karakteristik fisik sangat bervariasi antar individu, dan analisis struktur tulang memiliki margin kesalahan, terutama pada remaja yang mungkin memiliki perkembangan tubuh berbeda. Analisis kontekstual juga menghadapi tantangan, karena pengguna dewasa mungkin menyebutkan nama sekolah atau menyebutkan hari ulang tahun dengan cara yang menyerupai anak di bawah umur.

AI juga perlu terus dilatih untuk tidak mendiskriminasi pengguna dari etnis, jenis kelamin, dan tipe tubuh yang berbeda. Estudos menunjukkan bahwa sistem kecerdasan buatan sering kali menimbulkan bias ketika menganalisis karakteristik visual. Meta mengklaim berupaya mengurangi bias ini, namun risikonya tetap ada.

Tantangan Outro melibatkan pengalaman pengguna. Adultos yang sah mungkin akunnya dinonaktifkan secara keliru jika mereka memposting konten dengan karakteristik yang ditafsirkan AI sebagai indikator status di bawah umur. Embora memungkinkan perusahaan mengirimkan dokumentasi untuk membuktikan usia, prosesnya dapat menimbulkan frustrasi dan pengabaian akun oleh pengguna dewasa asli.

Keamanan anak Contexto di media sosial

Inisiatif Meta adalah bagian dari tren yang lebih luas di antara platform digital untuk meningkatkan mekanisme perlindungan bagi anak di bawah umur. Pesquisas mendokumentasikan risiko signifikan terhadap paparan konten yang tidak pantas, predator online, dan bahaya terhadap kesehatan mental anak-anak di media sosial. Reguladores dan organisasi perlindungan anak terus menuntut tindakan yang lebih agresif.

Instagram secara historis menghadapi kritik khusus atas dampaknya terhadap remaja. Estudos menunjukkan korelasi antara penggunaan platform secara intensif dan masalah harga diri, kecemasan, dan gangguan makan pada anak di bawah umur. Meta kemudian meluncurkan fitur kesehatan dan pembatasan waktu pemakaian perangkat, tetapi terus menerima tekanan untuk menerapkan hambatan akses bagi anak di bawah 13 tahun.

Verifikasi usia melalui kecerdasan buatan merupakan strategi untuk menunjukkan respons nyata terhadap kritik tersebut. Embora bukanlah solusi lengkap untuk semua risiko online, tindakan ini menandakan komitmen perusahaan terhadap kepatuhan terhadap peraturan dan perlindungan anak.