Il giudice multa gli avvocati per aver inserito comandi nascosti nell’IA del tribunale
Un giudice di Tribunal Regional di Trabalho dell’8° Região (TRT-8) ha condannato due avvocati a pagare una multa dopo aver identificato un tentativo di manipolare un sistema di intelligenza artificiale. La tecnica utilizzata, nota come prompt injection, prevede l’inserimento di un’istruzione nascosta in un documento procedurale per modificare il comportamento degli strumenti di intelligenza artificiale.
La decisione ha sottolineato che il comando nascosto mirava a compromettere le analisi dell’intelligenza artificiale o a influenzare i progetti di sentenze generati dal sistema. Il giudice ha stabilito a favore di União una multa pari al 10% del valore della causa, per un totale di R$ 842.500,87.
Como funziona con la tecnica di manipolazione
Il comando nascosto è stato inserito all’interno di una istanza inviata dai legali. La strategia cercava di istruire qualsiasi sistema di intelligenza artificiale che elaborava il documento – sia del tribunale che della controparte – a generare opinioni superficiali o decisioni dannose per interessi opposti.
Segundo Dopo la sentenza, l’intenzione era chiara: compromettere l’analisi tecnico-giuridica. Il giudice ha valutato la condotta incompatibile con la buona fede procedurale e con il dovere di lealtà tra le parti.
Sistema Galileu ha rilevato l’anomalia
TRT-8 utilizza Galileu, uno strumento di intelligenza artificiale generativa sviluppato da TRT-RS (Tribunal Regional da Trabalho dal 4° Região) e adottato a livello nazionale da CSJT (Conselho Superior da Justiça da Trabalho). La piattaforma assiste giudici e funzionari pubblici nell’analisi dei documenti procedurali e nella preparazione di progetti di decisione.
Durante ha elaborato il documento sospetto, il sistema ha attivato un avviso di sicurezza e ne ha bloccato il contenuto. Successive verifiche umane hanno confermato il tentativo di manipolazione. Il giudice ha sottolineato che la decisione finale è però arrivata dall’analisi giudiziaria tradizionale dopo una valutazione personale del caso.
Consequências amministrativo e disciplinare
Além della sentenza pecuniaria, la sentenza ha determinato l’invio di lettere a due enti:
- OAB-PA (Ordem di Advogados di Brasil in Pará), per aprire eventuali procedimenti disciplinari nei confronti dei professionisti
- Corregedoria da TRT-8, per registrare l’incidente negli archivi
Il pubblico ministero Vladimir Aras ha pubblicizzato il caso sui social media e ha affermato che la condotta rappresentava una grave violazione. Segundo lui, l’azione è stata “molto peggiore che ordinare all’IA di fare una petizione, una dimostrazione o una decisione e non controllare il risultato”, poiché implicava un tentativo deliberato di corrompere il sistema.
Leia Também
Messi raggiunge i 19 gol in Coppa del Mondo FIFA con un bellissimo calcio di punizione per l’Argentina nello scontro con la Giordania
Cristiano Ronaldo brilla oltre il campo ai Mondiali del 2026 con il suo impero imprenditoriale e il lusso familiare
A 41 anni, Cristiano Ronaldo riafferma la sua eredità storica e si prepara a brillare ai Mondiali del 2026
Defesa degli avvocati nega le cattive intenzioni
I professionisti contestano l’interpretazione della sentenza. In un comunicato diffuso dalla CNN, hanno negato di aver tentato di manipolare il magistrato o il personale del tribunale. Argumentaram che il comando mirava a proteggere il client dall’IA stessa e a non influenzarlo indebitamente.
“Quello che è successo, in realtà, è stato un tentativo di proteggere il nostro cliente dall’intelligenza artificiale stessa e niente di più”, hanno dichiarato. Também ha espresso fiducia che la decisione sarà annullata in eventuali ricorsi.
Luanna di Sousa Alves, uno degli avvocati, ha presentato una nota separata in cui affermava di essere un’ex partner di Alcina Cristina Medeiros Castro. Alegou opera esclusivamente nel settore della previdenza civile e sociale e ha dichiarato di non aver avuto accesso agli atti prima della pronuncia della sentenza.
Implicações per la pratica legale digitale
Il caso illustra le crescenti sfide nell’adozione di sistemi di intelligenza artificiale da parte delle istituzioni giudiziarie. Sistemas e Galileu guadagnano spazio per velocizzare le analisi procedurali, ma creano anche nuovi vettori di manipolazione giuridica. La sentenza costituisce un precedente sulla responsabilità degli avvocati nell’utilizzo di strumenti di intelligenza artificiale in ambienti giudiziari.
La decisione rafforza inoltre che la responsabilità della condotta spetta ai professionisti, non al cliente o al sistema di intelligenza artificiale. La corte ha riaffermato che la verifica umana rimane un passo essenziale nel processo decisionale giudiziario, soprattutto quando è coinvolta la tecnologia.
