Perusahaan keamanan XM Cyber telah mengungkapkan dua kerentanan dalam platform AI Google Vertex yang memungkinkan pengguna dengan hak istimewa paling rendah untuk mengakses peran agen layanan yang lebih tinggi. Kelemahan Essas mengeksploitasi pengaturan default alat kecerdasan buatan Google Cloud. Google melaporkan bahwa perilaku yang diamati beroperasi sesuai dengan desain asli platform.
Pakar keamanan siber menyoroti bahwa masalah ini menunjukkan ketergantungan yang berlebihan pada layanan AI yang dikelola. Identitas agen layanan menerima izin luas untuk memastikan fungsionalitas berfungsi. Usuários dengan akses dasar dapat memanipulasi sistem untuk mendapatkan token akses yang lebih tinggi.
Penemuan ini memperkuat kebutuhan untuk meninjau praktik tata kelola di lingkungan komputasi awan. Empresas yang menggunakan Vertex AI menghadapi peningkatan risiko dari ancaman orang dalam tanpa kontrol tambahan.
Detail kerentanan yang teridentifikasi
Kerentanannya terletak pada alokasi hak istimewa untuk peran yang terkait dengan AI Vertex. Agen Service adalah akun khusus yang dikelola oleh Google Cloud yang mengakses sumber daya pengguna untuk menjalankan proses internal.
Identitas tak terlihat ini diberikan izin tingkat proyek yang luas untuk mengaktifkan operasi otomatis. Penyerang dengan izin minimum yang setara dengan peran Viewer dapat memulihkan token dari agen layanan dalam kondisi tertentu. Tindakan Essa memungkinkan penggunaan hak istimewa yang lebih tinggi dalam proyek.
XM Cyber menjelaskan bahwa kegagalan mengubah identitas terkelola menjadi vektor eskalasi. Google menyatakan bahwa layanan berfungsi sebagaimana dimaksud setelah pengungkapan yang bertanggung jawab.
Posisi resmi Google Cloud
Google tidak memberikan komentar tambahan selain tanggapan awal terhadap XM Cyber. Perusahaan mengklasifikasikan perilaku tersebut sebagai tindakan yang disengaja dalam desain platform AI Vertex.
Pengaturan default mengutamakan kenyamanan untuk langsung mengaktifkan fitur AI. Agen Service beroperasi di latar belakang dengan akses luas untuk mendukung integrasi antar layanan.
Analis mencatat bahwa pendekatan ini menundukkan model tata kelola perusahaan ke arsitektur penyedia. Clientes kehilangan visibilitas penuh atas komponen internal platform.
Risiko yang diperbesar karena ancaman orang dalam
Orang dalam yang jahat dapat mengeksploitasi kelemahan ini untuk mendapatkan akses melebihi apa yang biasanya diizinkan. Memanipulasi agen layanan tidak menghasilkan peringatan aktivitas mencurigakan yang khas.
Alat keamanan perusahaan jarang memantau perilaku identitas terkelola. Abuso dari akun ini muncul sebagai operasi platform yang sah.
Lingkungan AI melibatkan beban kerja yang mengakses beberapa layanan dan kumpulan data sensitif. Kurangnya isolasi yang memadai meningkatkan radius dampak jika terjadi kompromi.
- Memantau kueri tak terduga di BigQuery;
- Akses tidak sah ke penyimpanan data;
- Perilaku tidak normal dalam sesi API;
- Perubahan pada pengaturan orkestrasi.
Konteks terbitan sebelumnya di Vertex AI
Ini bukan identifikasi pertama atas kelemahan serupa pada platform. Pada bulan November 2024, Palo Alto Networks mengungkapkan kerentanan yang memungkinkan penskalaan melalui pekerjaan khusus dan eksfiltrasi model.
Google menerapkan perbaikan untuk masalah tersebut setelah rilis. Masalahnya melibatkan pipeline khusus dan akses yang tidak tepat ke model pembelajaran mesin yang telah disesuaikan.
Pengulangan tema yang berkaitan dengan hak istimewa menunjukkan pola struktural dalam desain. AI Terkelola Plataformas memberikan izin yang lebih tinggi kepada agen internal secara default.
Referensi ke OWASP Agentic Top 10
OWASP merilis Top 10 untuk aplikasi agen pada bulan Desember 2025. Kategori ASI03 membahas penyalahgunaan identitas dan hak istimewa dalam sistem AI otonom.
Klasifikasi ini mengkodekan risiko seperti yang diamati pada AI Vertex. Agentes diberikan akses ke alat dan sumber daya tanpa batasan terperinci yang memadai.
Kategori relevan lainnya mencakup penyalahgunaan alat dan kerentanan rantai pasokan agen. Kerangka kerja ini berfungsi sebagai referensi untuk penilaian risiko pada platform serupa.
Rekomendasi dari pakar keamanan
Para profesional merekomendasikan untuk segera menerapkan pengendalian kompensasi. CISO harus mengaudit semua identitas layanan yang terkait dengan beban kerja AI.
Pemantauan khusus untuk agen layanan memperlakukan akun ini sebagai karyawan yang memiliki hak istimewa. Alertas fokus pada pola yang menunjukkan manipulasi yang tidak tepat.
- Pengurangan cakupan otentikasi antar komponen;
- Pengenalan hambatan keamanan yang kuat;
- Segmentasi sumber daya sensitif;
- Tinjauan berkala terhadap izin standar.
Meskipun langkah-langkah ini meningkatkan biaya operasional, namun membatasi radius ledakan. Organizações perlu menyeimbangkan kenyamanan dengan kontrol efektif atas identitas yang tidak terlihat.
Perusahaan yang mengadopsi AI dalam skala besar meninjau postur cloud untuk menyertakan kemampuan observasi internal. Kepercayaan buta terhadap penyedia layanan yang dikelola memperlihatkan kesenjangan kritis dalam lingkungan modern.
Evolusi alat AI yang pesat menuntut adaptasi terus-menerus dalam strategi pertahanan. Provedores dan pelanggan berbagi tanggung jawab atas keamanan komponen internal.
