Google Vertex Il difetto dell’intelligenza artificiale espone rischi per la sicurezza con privilegi elevati negli agenti di servizio
Google Vertex AI, sicurezza informatica, vulnerabilità, XM Cyber, intelligenza artificiale
Un’analisi dettagliata della sicurezza ha identificato due vulnerabilità significative nella piattaforma di intelligenza artificiale Google Vertex AI. La scoperta, rilasciata dalla società di sicurezza informatica XM Cyber, rivela che gli utenti con autorizzazioni minime possono aumentare i propri privilegi per accedere a funzioni più potenti all’interno del sistema. Le falle sfruttano le impostazioni predefinite dei cosiddetti “agenti di servizio”, account automatizzati che operano dietro le quinte sulla piattaforma.
Il problema centrale risiede nel modo in cui la piattaforma gestisce i permessi di questi account di servizio, creati per facilitare il funzionamento integrato di diversi strumenti di intelligenza artificiale. Ricercatori Segundo, questa architettura consente a un attore malintenzionato con accesso con visualizzazione di base di manipolare il sistema per ottenere token di accesso con privilegi elevati, aprendo le porte ad attività non autorizzate. La violazione Essa rappresenta un rischio considerevole per le organizzazioni che si affidano alla piattaforma per sviluppare e gestire i propri modelli di machine learning.
In una risposta ufficiale, Google ha affermato che il comportamento osservato è in linea con il design originale della piattaforma, classificandolo come intenzionale. La posizione di Essa evidenzia un crescente dibattito nel settore tecnologico sul bilanciamento della comodità operativa e dell’implementazione di rigorosi controlli di sicurezza in ambienti cloud sempre più complessi.
Dettagli tecnici delle vulnerabilità
Le vulnerabilità sfruttano il modo in cui i privilegi vengono assegnati agli “agenti di servizio” su Google Cloud. Gli account speciali Essas, gestiti direttamente da Google, sono progettati per interagire con le risorse dell’utente ed eseguire autonomamente i processi interni. Para garantiscono il funzionamento continuo e l’integrazione tra i servizi, ricevono, per impostazione predefinita, un ampio set di autorizzazioni a livello di progetto, spesso eccedendo quanto necessario per attività specifiche.
Ricerca di XM Con questo token in mano, l’aggressore assume l’identità dell’account di servizio e può eseguire azioni che andrebbero ben oltre il suo scopo originale, trasformando un account di gestione interno in un potente vettore per l’escalation dei privilegi.
La posizione ufficiale di Google Cloud
In seguito alla divulgazione responsabile dei guasti da parte di XM Cyber, Google Cloud ha mantenuto la propria posizione secondo cui i servizi funzionano come previsto. La società non ha fornito ulteriori commenti né annunciato piani per modificare l’impostazione predefinita. L’attuale architettura privilegia la facilità d’uso e la rapida attivazione delle funzionalità AI, delegando agli agenti di servizio l’ampio accesso necessario per orchestrare operazioni complesse senza un costante intervento manuale.
Gli analisti della sicurezza sostengono che questo approccio, sebbene conveniente per gli sviluppatori, subordina i modelli di governance aziendale all’architettura del fornitore di servizi cloud. Le aziende che utilizzano la piattaforma perdono visibilità e controllo granulare su queste identità “invisibili” che operano nel loro ambiente. Essa la mancanza di trasparenza rende difficile l’applicazione del principio del privilegio minimo, pilastro fondamentale della sicurezza informatica.
Questa filosofia di progettazione attribuisce direttamente ai clienti la responsabilità di implementare controlli aggiuntivi. Sem Con la configurazione e il monitoraggio proattivi, le aziende sono esposte a rischi non immediatamente evidenti, ritenendo che le impostazioni predefinite del provider siano intrinsecamente sicure. La situazione serve da campanello d’allarme sulla necessità di una rigorosa due diligence nell’adozione di servizi di intelligenza artificiale gestiti.
Rischi amplificati per le minacce interne
I punti deboli identificati nell’IA Vertex amplificano notevolmente il pericolo rappresentato dalle minacce interne. Un dipendente malintenzionato o un utente malintenzionato che ha compromesso un account con privilegi bassi può sfruttare questo meccanismo per spostarsi lateralmente attraverso la rete e accedere a dati sensibili o sistemi critici senza essere rilevato. La manipolazione dell’agente di servizio è particolarmente insidiosa perché non genera i tipici avvisi di sicurezza associati all’attività sospetta dell’account utente.
Gli strumenti tradizionali di sicurezza aziendale, come i sistemi di rilevamento delle intrusioni o le piattaforme di gestione delle identità, sono raramente configurati per monitorare il comportamento delle identità gestite dai provider. Dal punto di vista dei log, l’abuso di questi account appare come un’operazione legittima e autorizzata della piattaforma stessa, mascherando l’attività dannosa. Isso crea un pericoloso punto cieco per le squadre di sicurezza.
Gli ambienti IA spesso elaborano e archiviano grandi volumi di dati proprietari e sensibili. La mancanza di un adeguato isolamento tra diversi progetti e carichi di lavoro fa sì che la compromissione di un singolo agente di servizio possa avere un impatto devastante. Un utente malintenzionato potrebbe, ad esempio, accedere ed esfiltrare set di dati di addestramento, manipolare modelli di machine learning per produrre risultati errati o utilizzare risorse informatiche per scopi illeciti, come il mining di criptovaluta.
Le azioni dannose possono includere il monitoraggio di query impreviste su database come BigQuery, l’accesso non autorizzato ai bucket di archiviazione dei dati, l’esecuzione di comportamenti anomali nelle sessioni API o la modifica delle impostazioni di orchestrazione della pipeline di dati. Cada una di queste azioni può causare danni finanziari e reputazionali significativi all’organizzazione interessata.
Contesto dei problemi precedenti in Vertex AI
Questa non è la prima volta che la sicurezza della piattaforma AI Vertex viene messa in discussione. Nel novembre 2024, i ricercatori di Palo Alto Networks hanno rivelato una diversa serie di vulnerabilità che consentivano anche l’escalation dei privilegi e l’esfiltrazione di modelli di intelligenza artificiale. Nell’occasione Naquela, i guasti erano legati all’esecuzione di “lavori personalizzati” e all’accesso improprio a modelli di apprendimento automatico che erano stati adattati con dati proprietari dei clienti.
Google ha risposto prontamente alla divulgazione di Palo Alto Networks e ha applicato le correzioni ai problemi specifici identificati. Tuttavia, il ripetersi di vulnerabilità legate alla gestione dei privilegi suggerisce l’esistenza di modelli di progettazione strutturale sulla piattaforma. La concessione di autorizzazioni eccessive per impostazione predefinita agli attori interni sembra essere una filosofia ingegneristica fondamentale che, mentre accelera lo sviluppo, crea terreno fertile per lo sfruttamento da parte degli avversari.
Implicazioni secondo OWASP Agentic Top 10
Le vulnerabilità in Vertex AI si allineano direttamente ai rischi emergenti catalogati dalla comunità della sicurezza. Nel dicembre 2025, la fondazione OWASP, riferimento globale nella sicurezza delle applicazioni, ha pubblicato la “Top 10 for Aplicações Agentic”, una guida dedicata ai rischi specifici dei sistemi di IA autonomi. Categoria ASI03, “Abuso di Identidade e il framework OWASP funge da strumento cruciale per le organizzazioni per valutare e mitigare i rischi associati all’adozione di piattaforme AI, evidenziando che le tradizionali minacce alla sicurezza assumono nuove dimensioni negli ecosistemi autonomi.
Raccomandazioni degli esperti di sicurezza
Considerati i rischi, i professionisti della sicurezza raccomandano che le aziende che utilizzano l’intelligenza artificiale Vertex implementino immediatamente robusti controlli compensativi. È fondamentale che Chief Information Security Officers (CISO) e i loro team conducano un audit approfondito di tutte le identità di servizio associate ai loro carichi di lavoro di intelligenza artificiale, trattando questi account non come componenti passivi della piattaforma, ma come utenti privilegiati che richiedono un monitoraggio costante. L’implementazione di avvisi focalizzati sui modelli di utilizzo che indicano una manipolazione impropria è una misura essenziale per rilevare attività sospette che passerebbero inosservate ai sistemi convenzionali.
