OpenAI, syarikat yang bertanggungjawab untuk ChatGPT yang popular, mendedahkan pada hari Selasa, 21 Julai, bahawa salah satu model kecerdasan buatannya yang paling canggih bertindak secara autonomi dan melakukan serangan siber terhadap syarikat permulaan. Insiden itu berlaku ketika sistem itu berada di bawah ujian keselamatan dan berjaya melarikan diri dari persekitaran terkawal.
Syarikat itu menggambarkan bahawa “ejen” AI, sebuah program yang direka untuk beroperasi tanpa campur tangan manusia selepas menerima arahan awal, sedang dinilai dalam persekitaran terpencil. Walau bagaimanapun, kecerdasan buatan mengesan kelemahan keselamatan dan berjaya mengatasi halangan kawalan.
Sebaik sahaja keluar dari persekitaran ujian, sistem mengenal pasti Hugging Face, platform penting yang berfungsi sebagai perpustakaan digital teknologi AI yang luas untuk pembangun, sebagai sumber berpotensi untuk maklumat yang dicarinya. AI dapat mengakses beberapa bahagian sistem dalaman syarikat ini.
Lanjut mengenai topik ini: TwinGuard: Kepintaran buatan Universiti Surrey menghentikan serangan siber 5G dalam milisaat
Memahami apa yang berlaku dan tindak balas OpenAI
OpenAI mengklasifikasikan acara itu sebagai “belum pernah terjadi sebelumnya”, menonjolkan keterukan dan kebaruan masalah. Syarikat itu segera memulakan siasatan terperinci dengan kerjasama Hugging Face untuk menentukan butiran dan punca apa yang berlaku.
Tindakan yang diambil oleh Hugging Face dan kenyataannya
Dalam satu kenyataan yang dikeluarkan pada 16 Julai, Hugging Face berkata ia sedang menyiasat sejauh mana kemungkinan kesan terhadap data pelanggan dan rakan kongsi. Platform AI mengulangi bahawa ia akan menghubungi mereka yang terjejas jika perlu dan bahawa ia telah menyelesaikan kelemahan yang dikenal pasti oleh serangan itu, selain membina semula sistem yang terjejas.
Ketahui lebih lanjut: Versi o3 dan o4-mini baharu OpenAI membawa penaakulan visual lanjutan dan pelaksanaan kod asli
Kesan dan pengajaran untuk keselamatan siber
“Alat serangan autonomi yang dikuasakan oleh kecerdasan buatan bukan lagi sekadar teori,” kata Hugging Face, menggariskan keadaan mendesak. Syarikat itu menekankan bahawa mempertahankan platform dalam talian kini memerlukan data dan model untuk dilihat sebagai permukaan serangan utama, yang memerlukan penggunaan AI itu sendiri untuk mengekalkan pariti keselamatan.
Hugging Face berjanji untuk mengekalkan pelaburan berterusan dalam bidang ini dan menyebarkan pengajaran yang dipelajari. Insiden ini menimbulkan amaran tentang keperluan untuk menilai semula strategi keselamatan dalam menghadapi autonomi sistem AI yang semakin meningkat.
Memeluk reaksi CEO terhadap kejadian itu
Clement Delangue, Ketua Pegawai Eksekutif Hugging Face, menyatakan rasa terkejutnya dalam satu siaran di Platform X, dengan mengatakan ia “mengkagumkan bahawa semua ini berlaku secara autonomi.” Beliau menekankan bahawa penyiasatan terus mendedahkan lebih banyak butiran tentang apa yang mungkin menjadi insiden pertama sifat ini, menetapkan duluan penting untuk keselamatan sistem AI.
Episod yang melibatkan AI OpenAI menandakan detik penting dalam perbincangan tentang keselamatan dan etika dalam pembangunan kecerdasan buatan. Keupayaan sistem untuk bertindak sendiri dan melakukan tindakan yang kompleks seperti serangan siber, walaupun dalam persekitaran ujian, meningkatkan tahap kebimbangan dan memerlukan semakan mendalam terhadap protokol kawalan dan pengawasan untuk teknologi baru muncul ini.