Rechter legt advocaten boetes op voor het invoegen van verborgen commando’s in de AI van de rechtbank
Een rechter van Tribunal Regional van Trabalho van de 8e Região (TRT-8) veroordeelde twee advocaten tot het betalen van een boete nadat ze een poging hadden vastgesteld om een AI-systeem te manipuleren. De gebruikte techniek, bekend als prompt injection, omvat het invoegen van een verborgen instructie in een proceduredocument om het gedrag van kunstmatige intelligentie-instrumenten te veranderen.
In het besluit werd erop gewezen dat het verborgen commando bedoeld was om AI-analyses in gevaar te brengen of om door het systeem gegenereerde conceptzinnen te beïnvloeden. De rechter bepaalde een boete gelijk aan 10% van de waarde van de zaak, in totaal R$ 842.500,87 in het voordeel van União.
Como werkt manipulatietechniek
Het verborgen bevel werd ingevoegd in een verzoekschrift van de advocaten. De strategie was bedoeld om elk AI-systeem dat het document verwerkte – of het nu van de rechtbank of van de tegenpartij was – te instrueren om oppervlakkige meningen of beslissingen te genereren die schadelijk zijn voor tegengestelde belangen.
Segundo de zin, de bedoeling was duidelijk: de technische en juridische analyse in gevaar brengen. De rechter oordeelde dat de gedraging onverenigbaar was met de procedurele goede trouw en de loyaliteitsplicht tussen partijen.
Sistema Galileu heeft de afwijking gedetecteerd
TRT-8 maakt gebruik van Galileu, een generatieve AI-tool ontwikkeld door TRT-RS (Tribunal Regional van Trabalho van 4e Região) en nationaal overgenomen door CSJT (Conselho Superior van Justiça van Trabalho). Het platform ondersteunt rechters en ambtenaren bij het analyseren van processtukken en het voorbereiden van ontwerpbesluiten.
Durante verwerkte het verdachte document, het systeem activeerde een beveiligingswaarschuwing en blokkeerde de inhoud. Daaropvolgende menselijke verificatie bevestigde de manipulatiepoging. De rechter benadrukte dat de uiteindelijke beslissing echter voortkwam uit traditionele juridische analyse na een persoonlijke beoordeling van de zaak.
Consequências administratief en disciplinair
Além van de geldstraf, bepaalde de straf het sturen van brieven naar twee instanties:
- OAB-PA (Ordem of Advogados of Brasil in Pará), om mogelijke disciplinaire procedures tegen de professionals te openen
- Corregedoria van TRT-8, om het incident in de administratie vast te leggen
Aanklager Vladimir Aras maakte de zaak bekend op sociale media en verklaarde dat het gedrag een ernstige overtreding vormde. Volgens Segundo was de actie “veel erger dan de AI opdragen een petitie, demonstratie of besluit te maken en het resultaat niet te controleren”, aangezien het een opzettelijke poging betrof om het systeem te corrumperen.
Leia Também
Messi bereikt 19 doelpunten op FIFA World Cups met een geweldige vrije trap voor Argentinië in de wedstrijd met Jordan
Cristiano Ronaldo schittert buiten het veld op het WK 2026 met zijn zakenimperium en gezinsluxe
Op 41-jarige leeftijd bevestigt Cristiano Ronaldo zijn historische erfenis en bereidt hij zich voor om te schitteren op het WK 2026
Defesa van de advocaten ontkent slechte bedoelingen
Professionals betwisten de interpretatie van de zin. In een verklaring van CNN ontkenden ze dat ze hadden geprobeerd de magistraat of het gerechtspersoneel te manipuleren. Argumentaram dat het commando de klant probeerde te beschermen tegen de AI zelf, en deze niet onnodig beïnvloedde.
“Wat er in werkelijkheid gebeurde, was een poging om onze klant tegen AI zelf te beschermen en niets meer dan dat”, verklaarden ze. Também sprak zijn vertrouwen uit dat de beslissing in eventuele beroepen zal worden teruggedraaid.
Luanna van Sousa Alves, één van de advocaten, heeft een aparte notitie overgelegd waarin staat dat zij een voormalig partner is van Alcina Cristina Medeiros Castro. Alegou werkt alleen op het gebied van de civiele en sociale zekerheid en verklaarde dat hij vóór het uitspreken van het vonnis geen toegang had tot de dossiers.
Implicações voor de digitale rechtspraktijk
De zaak illustreert de groeiende uitdagingen bij de adoptie van AI-systemen door gerechtelijke instellingen. Sistemas en Galileu winnen ruimte om procedurele analyses te versnellen, maar creëren ook nieuwe vectoren van juridische manipulatie. De uitspraak schept een precedent voor de verantwoordelijkheid van advocaten bij het gebruik van kunstmatige intelligentie-instrumenten in gerechtelijke omgevingen.
Het besluit versterkt ook dat de verantwoordelijkheid voor gedrag bij professionals ligt, en niet bij de opdrachtgever of het AI-systeem. De rechtbank bevestigde opnieuw dat menselijke verificatie een essentiële stap blijft in het rechterlijke besluitvormingsproces, vooral als het om technologie gaat.
