Firma de securitate cibernetică XM Cyber a dezvăluit descoperirea a două vulnerabilități critice în platforma de inteligență artificială Google Vertex AI. Defectele permit utilizatorilor cu permisiuni minime, cum ar fi un simplu vizualizator, să-și escaladeze privilegiile și să acceseze conturile de serviciu cu autorizații mult mai largi. Încălcarea Esta exploatează direct setările implicite ale instrumentului, generând o alertă despre securitatea serviciilor AI gestionate.
Problema centrală constă în „agenții de serviciu”, conturi speciale gestionate de Google Cloud care execută sarcini în numele utilizatorului. În mod implicit, acestor conturi li se acordă permisiuni extinse pentru a asigura funcționarea perfectă a funcțiilor platformei. Cu toate acestea, această comoditate creează un vector de atac semnificativ care poate fi exploatat de actori rău intenționați interni sau de conturi compromise pentru a se muta lateral într-un mediu cloud.
Ca răspuns la dezvăluirea responsabilă făcută de XM Cyber, Google a declarat că comportamentul identificat funcționează în conformitate cu designul original al platformei, clasificându-l drept intenționat. Poziția Essa întărește nevoia companiilor de a adopta o postură de securitate proactivă, în loc să aibă încredere orbește în configurațiile implicite ale furnizorilor de cloud, în special în mediile care se ocupă de date sensibile și modele de învățare automată.
Detalii tehnice ale explorării
Exploatarea vulnerabilităților se bazează pe modul în care Google Vertex AI gestionează identitatea și accesul componentelor sale interne. Agenții de servicii sunt creați automat pentru a facilita operațiuni complexe, cum ar fi formarea modelelor, rularea conductelor de date și implementarea punctelor finale. Para Pentru a permite acestor sarcini să aibă loc fără întrerupere, platforma acordă acestor identități un set larg de permisiuni la nivel de proiect. XM Odată ce a ajuns în posesia acestor jetoane, atacatorul își asumă în mod efectiv privilegiile contului de serviciu, care includ adesea permisiuni de editor sau administrator pentru diferite funcții Google Cloud, cum ar fi BigQuery și Cloud Storage. Metoda de escaladare Esse este deosebit de periculoasă deoarece activitatea generată de agentul de serviciu compromis pare legitimă pentru instrumentele de monitorizare, maschând încălcarea ca funcționare normală a platformei și făcând activitatea rău intenționată dificil de detectat.
Răspunsul lui Google și filosofia „designului intenționat”
Poziția oficială a lui Google Cloud, care clasifică comportamentul ca o caracteristică de design, evidențiază o filozofie comună în platformele cloud care acordă prioritate ușurinței de utilizare și implementării rapide. Oferind permisiuni largi în mod implicit, compania elimină barierele pentru dezvoltatori și oamenii de știință de date de a utiliza capabilitățile AI fără a fi nevoie de configurații complexe de gestionare a identității și a accesului (IAM). Abordarea Essa accelerează inovația, dar transferă o parte semnificativă din responsabilitatea de securitate către client.
Analiștii de securitate subliniază că această strategie subordonează modelele de guvernanță corporativă arhitecturii furnizorului. Întreprinderile își pierd vizibilitatea și controlul granular asupra „identităților invizibile” care operează în mediile lor. Incidentul servește ca un memento critic al modelului de responsabilitate partajată în cloud: în timp ce furnizorul este responsabil pentru securitatea *a* cloudului, clientul este responsabil pentru securitatea *în* cloud. Isso include configurarea corectă a permisiunilor, auditarea conturilor de serviciu și implementarea controalelor de securitate suplimentare pentru a proteja sarcinile de lucru.
Implicații pentru securitatea corporativă
Găurile identificate în Vertex AI cresc considerabil riscurile asociate cu amenințările interne. Un angajat sau un atacator rău intenționat care a compromis un cont cu privilegii reduse ar putea folosi această tehnică pentru a accesa și a exfiltra date sensibile.
Manipularea agenților de serviciu este o tactică ascunsă, deoarece nu declanșează alerte de securitate tradiționale care monitorizează crearea de noi permisiuni de utilizator. Operațiunile efectuate cu jetoane furate sunt înregistrate ca acțiuni legitime efectuate chiar de platformă.
Instrumentele de securitate ale întreprinderii, cum ar fi sistemele de detectare și răspuns la punctele finale (EDR) sau sistemele de gestionare a informațiilor și evenimentelor de securitate (SIEM), sunt rareori configurate pentru a monitoriza comportamentul identităților gestionate de furnizor, creând un punct orb semnificativ în postura de apărare.
Mediile AI procesează adesea volume mari de informații sensibile, iar lipsa izolării adecvate între resurse permite răspândirea rapidă a unui compromis inițial, crescând dramatic raza de impact a unei breșe de securitate.
Vertex Istoricul securității AI
Nu este prima dată când securitatea platformei Vertex AI este pusă la îndoială. În noiembrie 2024, cercetătorii de la Palo Alto Networks au dezvăluit vulnerabilități similare care au permis escaladarea privilegiilor prin „lucrări personalizate” și exfiltrarea modelelor de învățare automată.
La acel moment, Google a implementat remedieri pentru problemele specifice raportate. Cu toate acestea, reapariția eșecurilor legate de managementul privilegiilor sugerează provocări structurale în proiectarea platformelor AI gestionate, care, prin natura lor, trebuie să acorde un grad ridicat de autonomie agenților lor interni pentru a funcționa eficient.
Alinierea la liniile directoare OWASP
Constatările sunt în concordanță cu riscurile emergente catalogate de Open Web Application Security Project (OWASP). În decembrie 2025, organizația a lansat „OWASP Top 10 for Large Language Model Applications”, un ghid pentru riscurile cheie de securitate în sistemele AI.
Vulnerabilitatea AI Vertex se încadrează direct în categoria ASI03, care abordează abuzul de identitate și privilegii în sistemele AI autonome. Categoria Esta avertizează asupra pericolului ca agenților să li se acorde acces excesiv la instrumente și resurse fără restricții granulare suficiente.
Cadrul OWASP servește ca referință esențială pentru echipele de securitate pentru a evalua și a atenua riscurile în platformele AI, subliniind faptul că dependența excesivă de componente terțe poate duce la defecte de securitate semnificative.
Măsuri de atenuare și recomandări ale experților
Pentru a atenua riscurile, experții în securitate recomandă companiilor care folosesc Vertex AI să implementeze imediat controale compensatorii. Primul pas este efectuarea unui audit complet al tuturor identităților de servicii asociate cu sarcinile de lucru AI, aplicând principiul cel mai mic privilegiu ori de câte ori este posibil.
Este crucială implementarea unei monitorizări specifice pentru activitatea acestor agenți de servicii, tratându-i ca conturi privilegiate. Isso implică crearea de alerte pentru modele de comportament anormale, cum ar fi accesarea datelor sau a API-urilor în afara domeniului de aplicare al rolului dvs. obișnuit. Segmentarea resurselor și crearea barierelor de securitate între diferite proiecte pot limita raza de acțiune a atacatorului în cazul unui compromis.
Viitorul guvernanței pe platformele AI
Evoluția și adoptarea rapidă a instrumentelor de inteligență artificială necesită o adaptare constantă în strategiile de apărare și guvernare. Organizațiile trebuie să echilibreze agilitatea oferită de serviciile gestionate cu nevoia de a menține controlul și vizibilitatea asupra mediilor lor cloud, recunoscând că securitatea este o responsabilitate comună.
