Integrasi alat kecerdasan buatan generatif yang tergesa-gesa ke dalam lingkungan perusahaan menciptakan kerentanan baru dan berbahaya. Laporan terbaru oleh
Skenario risiko yang semakin meningkat ini dibuktikan dengan peningkatan volume ancaman digital yang signifikan. Penelitian menunjukkan bahwa organisasi global menghadapi rata-rata 2.027 serangan siber per minggu selama setahun terakhir, jumlah ini menunjukkan pertumbuhan sebesar 9% dibandingkan periode sebelumnya.
Kekhawatiran utama terletak pada fenomena yang dikenal sebagai “shadow AI”, di mana karyawan menggunakan platform AI publik untuk tugas kerja, memasukkan informasi rahasia perusahaan. Dari cuplikan kode sumber hingga rencana strategis dan data pelanggan, informasi ini dapat disimpan secara tidak aman dan akhirnya diakses oleh pihak ketiga yang tidak berwenang.
Meningkatnya jumlah serangan siber
Peningkatan serangan mingguan sebesar 9% mencerminkan tren global yang semakin intensifnya ancaman digital. Transformasi digital, yang semakin pesat dalam beberapa tahun terakhir, telah memperluas jangkauan serangan perusahaan, menjadikannya lebih rentan terhadap berbagai jenis insiden keamanan.
Daerah dengan digitalisasi tinggi, seperti Estados Unidos dan Reino Unido, menjadi episentrum eskalasi ini. Di pasar Nestes, lebih dari 1.440 organisasi mengalami serangan mingguan, peningkatan yang mengkhawatirkan sebesar 39% dibandingkan tahun sebelumnya. Hal ini menunjukkan bahwa kematangan digital juga meningkatkan kompleksitas lanskap ancaman.
Peran AI generatif dalam paparan informasi
Kemudahan penggunaan dan efisiensi alat AI generatif telah menyebabkan adopsi massal, namun tanpa uji tuntas terhadap keamanan. Funcionários, untuk mencari produktivitas, sering kali memasukkan data rahasia perusahaan ke dalam perintah sistem seperti ChatGPT dan platform serupa lainnya. Masalahnya adalah banyak dari alat ini tidak menjamin privasi data yang dimasukkan, sehingga dapat digunakan untuk melatih model bahasa atau disimpan di server eksternal tanpa enkripsi yang memadai. Estudos menunjukkan bahwa sekitar satu dari setiap 80 pertanyaan yang dibuat oleh karyawan terhadap AI generatif berisi informasi yang dapat dianggap penting atau bersifat eksklusif. Kurangnya tata kelola dan kebijakan yang jelas mengenai penggunaan teknologi ini menciptakan titik buta bagi tim keamanan, yang tidak dapat memantau atau mengendalikan aliran informasi ke platform eksternal ini, sehingga meningkatkan risiko kebocoran yang dapat mengakibatkan kerugian finansial, kerusakan reputasi, dan pelanggaran kepatuhan.
Kelompok Ransomware menonjol dalam lanskap ancaman
Dalam ekosistem ancaman, serangan ransomware terus menjadi salah satu kekhawatiran terbesar bagi perusahaan-perusahaan dari semua ukuran. Spesialis Grupos telah meningkatkan taktik mereka, mengeksploitasi kelemahan dalam sistem operasi, lingkungan virtualisasi, dan infrastruktur cloud.
Di antara yang paling aktif, kelompok Qilin, asal Rusia, menunjukkan aktivitas agresif dan konsisten, memimpin jumlah korban yang tercatat. Organisasi ini terkenal dengan teknik pemerasan ganda, yang melibatkan enkripsi data dan ancaman akan membocorkannya ke publik.
Kelompok terkenal lainnya termasuk LockBit5, yang menunjukkan ketahanan yang besar dengan segera kembali setelah operasi polisi yang bertujuan untuk membongkarnya, dan Akira, yang memfokuskan upayanya pada sistem perusahaan menengah dan besar, sehingga menyebabkan gangguan yang signifikan.
Strategi kelompok-kelompok ini telah berkembang untuk memaksimalkan tekanan terhadap para korban. Dengan mengambil data dalam jumlah besar sebelum mengenkripsi sistem, mereka memastikan adanya bentuk pemaksaan kedua, sehingga membayar uang tebusan menjadi pilihan yang lebih mungkin untuk mencegah paparan informasi sensitif kepada publik.
Kerentanan sektoral dan geografis
Analisis insiden mengungkapkan bahwa sektor-sektor tertentu merupakan target pilihan para penjahat dunia maya. Sektor pemerintah dan pendidikan, serta lembaga nirlaba, mengalami tingginya insiden serangan. Kerentanan Essa sering kali disebabkan oleh infrastruktur TI yang ketinggalan zaman, anggaran keamanan yang terbatas, dan kurangnya tenaga profesional yang memenuhi syarat untuk mengelola pertahanan digital.
Dalam lingkungan seperti ini, penggunaan data yang tidak tepat dalam model AI semakin memperburuk risiko, karena kurangnya kontrol yang ketat memungkinkan penyerang mengeksploitasi celah dengan relatif mudah. Oleh karena itu, memodernisasi sistem lama dan berinvestasi dalam keamanan menjadi prioritas penting untuk melindungi informasi publik dan data warga negara, pelajar, dan donor.
Pertumbuhan ransomware yang mengkhawatirkan
Akhir tahun lalu terjadi lonjakan serangan ransomware yang mengkhawatirkan. Dezembro menandai volume insiden publik tahunan tertinggi, dengan peningkatan 60% dibandingkan bulan yang sama tahun sebelumnya.
Pertumbuhan ini didorong oleh kemampuan penyerang untuk meningkatkan teknik infiltrasi mereka. Memanfaatkan kerentanan zero-day dalam perangkat lunak perusahaan dan menggunakan kredensial yang dicuri tetap menjadi vektor masuk yang paling umum.
Selain itu, para penjahat sendiri menggunakan kecerdasan buatan untuk mengoptimalkan kampanye mereka. AI digunakan untuk membuat email phishing yang lebih meyakinkan, mengotomatiskan pengintaian jaringan, dan mengidentifikasi target bernilai tinggi dengan lebih cepat dan efisien.
Strategi mitigasi untuk lingkungan perusahaan
Untuk melawan gelombang ancaman baru ini, perusahaan perlu mengambil pendekatan proaktif terhadap tata kelola AI. Isso mencakup penerapan kebijakan penggunaan yang jelas yang menentukan jenis informasi apa yang dapat dan tidak dapat dimasukkan ke dalam alat AI eksternal.
Klasifikasi otomatis data sensitif adalah tindakan mendasar lainnya, karena memungkinkan solusi keamanan mengidentifikasi dan memblokir upaya pengiriman informasi penting secara real-time. Pelatihan karyawan yang berkelanjutan mengenai risiko shadow AI juga penting untuk memperkuat garis pertahanan pertama.
Perlunya platform keamanan terpadu
Menghadapi semakin kompleksnya ancaman, penggunaan berbagai solusi keamanan yang terisolasi dan terisolasi terbukti tidak efektif. Organisasi yang mengadopsi platform keamanan siber terpadu dan terkonsolidasi mendapatkan visibilitas yang lebih besar di seluruh lingkungan TI mereka, mulai dari jaringan hingga cloud dan perangkat endpoint. Pendekatan terintegrasi Essa memungkinkan deteksi ancaman lebih cepat dan respons insiden yang lebih tangkas dan terkoordinasi, yang sangat penting untuk membendung kerusakan akibat serangan pada tahap awal.
