Skenario teknologi saat ini memerlukan tanggapan segera dari para pemimpin dunia, dan perlindungan anak-anak di lingkungan digital menjadi perhatian utama dalam Dialog Global tentang Tata Kelola Kecerdasan Buatan yang pertama. Diadakan di kota Jenewa, Swiss, pertemuan yang dipromosikan oleh PBB ini mempertemukan para pakar teknologi, legislator, dan perwakilan pemerintah. Tujuan utama dari pertemuan puncak yang belum pernah terjadi sebelumnya ini adalah untuk memberikan gambaran rinci tentang kemajuan pesat algoritma generatif dan menetapkan parameter keamanan bagi pengguna jaringan yang paling rentan.
Urgensi untuk memperdebatkan topik ini tidak muncul secara kebetulan, namun merupakan respon langsung terhadap mobilisasi besar-besaran masyarakat sipil global. Lebih dari seratus organisasi non-pemerintah dan lembaga hak asasi manusia telah bergabung untuk menuntut agar raksasa teknologi meninggalkan peraturan mandiri dan bertanggung jawab secara hukum atas produk mereka. Blok tekanan ini berpendapat bahwa akuntabilitas perusahaan adalah satu-satunya cara yang layak untuk memastikan bahwa sistem komputer baru tidak menyebabkan kerusakan yang tidak dapat diperbaiki terhadap perkembangan kognitif dan sosial anak di bawah umur.
Ketidaksesuaian antara kemajuan algoritma dan peraturan global
António Guterres, kepala diplomasi di PBB, menggunakan pidato pembukaannya untuk menguraikan diagnosis yang mengkhawatirkan mengenai perlombaan teknologi saat ini. Sekretaris Jenderal menunjukkan bahwa kecepatan pengembangan alat-alat otomatis telah menciptakan jurang regulasi, sehingga membuat legislator, pemerintah, dan bahkan insinyur perangkat lunak sendiri tidak memiliki kendali atas ciptaan mereka. Menurut pemimpin internasional tersebut, kita sedang menghadapi kekuatan yang mampu merestrukturisasi pasar keuangan, mendikte arah lapangan kerja global, mencampuri proses pemilu yang demokratis, dan menulis ulang peraturan keamanan nasional dengan kecepatan yang mustahil untuk diasimilasikan oleh pikiran manusia.
Untuk menghindari skenario kekacauan digital, diplomat Portugal ini membela pentingnya pakta global yang menstandardisasi aturan penggunaan dan pengembangan platform ini di semua benua. Visi yang disampaikan oleh pimpinan PBB menolak gagasan bahwa peraturan menghambat kemajuan, dengan alasan bahwa inovasi teknologi yang sebenarnya harus berjalan seiring dengan pelestarian hak-hak dasar. Dalam salah satu pernyataannya yang paling tegas dalam panel tersebut, ia menyatakan bahwa teknologi apa pun yang bertujuan untuk menjalankan kekuatan transformatif terhadap masyarakat harus tunduk pada mekanisme tata kelola dan pengawasan publik yang ketat.
Diskusi yang diadakan di forum Swiss mendapat dukungan teknis berkat presentasi dokumen sejarah kepada komunitas ilmiah. Ini adalah pemetaan dampak otomatisasi cerdas secara global dan sepenuhnya tidak memihak, yang dipersiapkan dengan cermat oleh sebuah komite yang terdiri dari empat puluh peneliti mutakhir. Kelompok tokoh ini, yang bekerja dengan dukungan institusional dari Perserikatan Bangsa-Bangsa, mendedikasikan waktu berbulan-bulan untuk mengumpulkan data empiris tentang bagaimana jaringan saraf membentuk perilaku manusia dan apa risiko nyata dari adopsi jaringan saraf dalam skala besar tanpa langkah-langkah keamanan yang diperlukan.
Kerentanan anak-anak dan remaja terhadap jaringan saraf
Titik ketegangan terbesar pada pertemuan tersebut berkisar pada paparan awal dan tanpa perlindungan generasi baru terhadap robot percakapan dan algoritma rekomendasi. Kepala diplomasi global menyatakan keprihatinan yang mendalam tentang fakta bahwa aplikasi berbasis pembelajaran mesin sudah tertanam dalam rutinitas sekolah, pada platform hiburan, dan dalam percakapan intim kaum muda. Bahaya besarnya terletak pada kenyataan bahwa alat-alat ini diluncurkan ke pasar konsumen dan diintegrasikan ke dalam kehidupan sehari-hari jutaan keluarga jauh sebelum menjalani audit ketat yang membuktikan keamanannya sepenuhnya bagi anak-anak dan remaja.
- Mewajibkan perusahaan teknologi untuk melakukan audit eksternal dan independen sebelum meluncurkan produk apa pun yang ditujukan untuk anak-anak dan remaja;
- Menerapkan filter absolut dan tidak dapat dinegosiasikan yang mencegah pembuatan, distribusi, atau penyimpanan konten visual apa pun yang bersifat seksual terhadap anak di bawah umur;
- Mengembangkan mekanisme intelijen yang mampu mengidentifikasi tanda-tanda tekanan psikologis selama interaksi dengan mesin, segera menghentikan penggunaan;
- Menetapkan perjanjian internasional yang mengikat yang menyatukan undang-undang perlindungan digital untuk generasi baru di semua negara anggota.
Untuk menggambarkan betapa gawat dan mendesaknya situasi ini, pihak berwenang menyajikan data historis mengenai penerapan teknologi disruptif selama beberapa dekade terakhir. Meskipun World Wide Web memerlukan ekspansi berkelanjutan selama satu setengah dekade untuk menghubungkan miliaran pengguna pertamanya, sistem pemrosesan bahasa alami modern mampu menghancurkan pencapaian tersebut hanya dalam waktu dua puluh empat bulan. Tingkat penetrasi ini, yang belum pernah terjadi sebelumnya dalam sejarah umat manusia, dikombinasikan dengan kemampuan algoritma untuk menciptakan simulasi ikatan emosional dengan kaum muda, menciptakan lahan subur bagi pelecehan. Skenario ini menjadi lebih kompleks karena monopoli teknologi, karena kendali atas alat-alat canggih ini terbatas pada segelintir perusahaan bernilai miliaran dolar dan sejumlah kecil kekuatan global.
Tekanan internasional menuntut perubahan sikap dari raksasa teknologi
Pengepungan diplomatik terhadap kurangnya peraturan semakin meningkat beberapa saat sebelum pembukaan resmi sidang pleno di Swiss. Sebuah konsorsium yang terdiri dari lebih dari seratus lembaga bergengsi, dengan partisipasi aktif Amnesty International dan organisasi Save the Children, menerbitkan sebuah manifesto yang menuntut tindakan nyata dan segera. Koordinasi gerakan global ini merupakan tanggung jawab 5Rights Foundation, sebuah entitas yang didedikasikan untuk hak-hak digital yang mempertahankan tesis yang jelas: beban untuk memastikan lingkungan virtual yang aman harus dialihkan sepenuhnya ke neraca keuangan perusahaan teknologi, sehingga mengurangi beban tidak realistis yang saat ini berada di pundak orang tua dan pendidik.
Dokumen yang disampaikan kepada para pemimpin dunia mengusulkan paket tindakan hukuman dan pencegahan yang menjanjikan perubahan radikal model bisnis Silicon Valley. Salah satu tuntutan utama koalisi adalah kewajiban untuk melakukan stress test yang ketat sebelum peluncuran komersial, yang menyimulasikan skenario risiko ekstrim. Lebih jauh lagi, kelompok ini menuntut penerapan denda yang berat sebanding dengan pendapatan global perusahaan-perusahaan yang mengabaikan keselamatan anak. Poin lain yang tidak dapat dinegosiasikan dalam manifesto ini adalah larangan total dan definitif terhadap pengumpulan, penyimpanan, dan monetisasi foto, rekaman suara, dan data biometrik dari individu di bawah usia delapan belas tahun untuk pelatihan model komputasi baru.
Direktur eksekutif 5Rights Foundation, Leanda Barrington-Leach, memanfaatkan visibilitas acara tersebut untuk menyuarakan keprihatinan para korban kesenjangan hukum ini. Aktivis tersebut menyatakan bahwa generasi muda saat ini telah memahami dengan sempurna bahaya lingkungan digital dan memiliki diagnosis yang jelas mengenai kelemahan sistem tersebut. Menurut pakar tersebut, generasi baru tidak ingin memperlambat perkembangan ilmu pengetahuan atau melarang penggunaan alat-alat inovatif, namun mereka menganggap model industri saat ini tidak dapat diterima, yang lebih memilih meluncurkan produk cacat ke pasar daripada hanya mencoba memperbaiki kerusakan psikologis dan sosial setelah tragedi tersebut terjadi.
Langkah diplomasi selanjutnya untuk menghentikan kemajuan yang tidak teratur
Berakhirnya putaran perundingan di Jenewa tidak menandai berakhirnya upaya tersebut, melainkan awal dari jadwal diplomatik yang padat untuk beberapa bulan mendatang. Komunitas internasional menantikan dengan penuh harap publikasi berkas ilmiah yang lebih dalam dan rinci, yang rilis resminya dijadwalkan pada kalender tahun depan. Materi ini akan menjadi landasan teori bagi pertemuan puncak global yang baru dan menentukan, yang akan mengalihkan pembahasannya ke markas besar PBB, di New York City. Tujuan akhir dari pertemuan maraton ini adalah untuk mengkonsolidasikan, untuk selamanya, arsitektur tata kelola internasional yang cukup tangkas untuk mengikuti inovasi dari laboratorium teknologi, memastikan bahwa masa depan digital adalah ruang pembangunan yang aman bagi generasi muda global.
