Algoritma kecerdasan buatan inovatif, yang disebut Mythos 5 dan dikembangkan oleh Anthropic, dengan cepat ditarik dari peredaran atas perintah langsung dari Gedung Putih. Tindakan tersebut secara khusus mencegah entitas asing menggunakan alat tersebut, dengan alasan bahwa model tersebut, dengan kemampuannya yang luar biasa untuk menemukan kelemahan perangkat lunak, menimbulkan risiko tinggi terhadap keamanan nasional Amerika Serikat. Keputusan ini menggarisbawahi meningkatnya kekhawatiran di kalangan pemerintah mengenai potensi destruktif dari teknologi AI yang sangat canggih.
Algoritme Mythos 5 menembus sistem agensi sensitif dalam hitungan jam
Rincian yang tidak dipublikasikan dan mengkhawatirkan tentang insiden tersebut diterbitkan oleh majalah berbahasa Inggris The Economist, sehingga menambah gawatnya situasi tersebut. Seperti yang diungkapkan oleh Jenderal Joshua Rudd, yang mengambil alih jabatan direktur Badan Keamanan Nasional (NSA) pada bulan Maret, Mythos 5 berhasil mengakses “hampir semua” sistem rahasia badan keamanan tersebut. Yang paling mengejutkan adalah kecepatan penyusupan, yang hanya memakan waktu beberapa jam, sangat kontras dengan waktu berminggu-minggu yang diperkirakan dalam uji keamanan konvensional. Penemuan ini telah disampaikan kepada Senator Mark Warner, wakil ketua Komite Intelijen Senat AS yang berpengaruh, yang menandakan keseriusan penanganan kasus ini di tingkat tertinggi pemerintahan.
Kelincahan Mythos 5 dalam mengatasi hambatan keamanan NSA menunjukkan lompatan kualitatif dalam kemampuan analisis kerentanan kecerdasan buatan. Sementara tim manusia merah menghabiskan waktu berminggu-minggu atau bahkan berbulan-bulan untuk mengidentifikasi kelemahan dalam sistem yang kompleks, AI menyelesaikan tugas tersebut dalam waktu yang sangat singkat. Fakta ini menimbulkan pertanyaan mendesak mengenai efektivitas pertahanan saat ini terhadap ancaman siber yang dapat didorong oleh algoritma yang kuat, sehingga menyoroti perlunya mengevaluasi kembali strategi keamanan siber dan mengembangkan tindakan penanggulangan dengan kecanggihan yang sama.
Pahami bagaimana NSA menggunakan AI dalam latihan keamanan
Meskipun terdapat gangguan, penting untuk diklarifikasi bahwa kecerdasan buatan tidak beroperasi secara mandiri untuk menyerang sistem. Penilaian awal menunjukkan bahwa NSA menggunakan model tersebut dalam latihan “tim merah”. Ini adalah metodologi standar yang digunakan para ahli untuk melakukan simulasi serangan siber untuk mengidentifikasi dan memperbaiki kerentanan di jaringan mereka sendiri, guna meningkatkan ketahanan pertahanan. Tujuannya adalah untuk menguji batas-batas hambatan keamanannya, menggunakan alat mutakhir untuk mensimulasikan taktik musuh yang canggih. Meskipun terkendali, efektivitas Mythos 5 dalam lingkungan simulasi ini menimbulkan peringatan tentang apa yang bisa terjadi jika teknologi tersebut jatuh ke tangan yang salah atau digunakan secara jahat.
Sejarah algoritma menunjukkan kemampuan untuk menemukan kesalahan
Dalam evaluasi sebelumnya, Mythos 5 telah menunjukkan efektivitasnya yang mengesankan. Dalam pengujian yang disahkan oleh Mozilla Foundation, algoritme tersebut mengidentifikasi 271 kelemahan keamanan di browser Firefox, salah satu yang paling banyak digunakan secara global. Dihadapkan dengan meningkatnya kekhawatiran tentang bahaya yang melekat pada alat canggih tersebut, Anthropic memutuskan untuk membatasi akses terhadap algoritma tersebut, membuatnya hanya tersedia bagi para peneliti dan institusi yang menerima persetujuan khusus, dalam upaya untuk mengendalikan penggunaannya dan memitigasi potensi risiko. Kebijakan akses terbatas ini menyoroti tanggung jawab perusahaan dalam menangani teknologi yang memiliki dampak signifikan.
Rilis dan Penghapusan Cepat Versi Fabel
Pada tanggal 9 Juni, Anthropic merilis Fable, versi Mythos 5 yang seharusnya lebih terkontrol, menggabungkan perlindungan yang dirancang untuk mencegah tindakan berbahaya. Namun, ketersediaan Fable sangat singkat. Hanya tiga hari kemudian, pada tanggal 12 Juni, Gedung Putih melakukan intervensi lagi, mengeluarkan perintah agar templat tersebut segera dihapus dari situs web. Tindakan cepat ini dipicu oleh tuduhan bahwa para insinyur Amazon telah menemukan metode untuk menghindari perlindungan ini, yang berujung pada peringatan dari otoritas yang kompeten mengenai masih adanya risiko, yang menunjukkan kesulitan dalam menciptakan hambatan efektif terhadap kemampuan AI yang canggih.
Berulangnya larangan tersebut, sekarang untuk versi Fable, menunjukkan urgensi dan keseriusan pemerintah AS dalam menangani masalah pengendalian AI yang kuat. Intervensi langsung Gedung Putih segera setelah dirilisnya versi yang “aman” mencerminkan persepsi bahwa, saat ini, risiko penyalahgunaan lebih besar daripada manfaat yang dapat dikendalikan. Episode ini menambah bab penting dalam perdebatan mengenai tata kelola kecerdasan buatan, khususnya mengenai kemampuan untuk memprediksi dan menetralisir kerentanan yang dapat diciptakan oleh teknologi itu sendiri.
Antropis dan perdebatan tentang kontrol etis kecerdasan buatan
Anthropic memiliki sejarah penting dalam memperingatkan publik tentang potensi bahaya kecerdasan buatannya sebelum menyediakannya, sebuah praktik yang terlihat pada versi sebelumnya berdasarkan model seperti GPT-2 dan GPT-3. Namun, Mythos 5 dan Fable mewakili kemajuan teknologi yang substansial, menunjukkan kemampuan yang unggul dan potensi kerusakan yang jauh lebih besar jika dibandingkan dengan pendahulunya. Lompatan dalam kompleksitas dan kekuatan ini menimbulkan diskusi mendalam tentang kontrol dan etika dalam pengembangan kecerdasan buatan berkekuatan tinggi. Insiden yang melibatkan algoritma ini memperparah perdebatan global tentang bagaimana menyeimbangkan inovasi teknologi dengan keselamatan dan tanggung jawab, sebuah tantangan yang memerlukan kolaborasi dari pemerintah, dunia usaha, dan komunitas ilmiah untuk menetapkan standar yang efektif dan memastikan bahwa AI bermanfaat bagi umat manusia tanpa mengorbankan keselamatannya.