En dommer fra Tribunal Regional av Trabalho av 8. Região (TRT-8) dømte to advokater til å betale en bot etter å ha identifisert et forsøk på å manipulere et AI-system. Teknikken som brukes, kjent som umiddelbar injeksjon, innebærer å sette inn en skjult instruksjon i et prosedyredokument for å endre oppførselen til verktøy for kunstig intelligens.
Avgjørelsen påpekte at den skjulte kommandoen hadde som mål å kompromittere AI-analyser eller påvirke utkast til setninger generert av systemet. Dommeren fastsatte en bot tilsvarende 10% av verdien av saken, totalt R$842 500,87 til fordel for União.
Como fungerer manipulasjonsteknikk
Den skjulte kommandoen ble satt inn i en begjæring sendt av advokatene. Strategien søkte å instruere ethvert AI-system som behandlet dokumentet – enten fra retten eller motparten – til å generere overfladiske meninger eller avgjørelser som er skadelig for motstridende interesser.
Segundo setningen, intensjonen var klar: å kompromittere teknisk og juridisk analyse. Dommeren vurderte atferden som uforenlig med prosessuell god tro og lojalitetsplikten mellom partene.
Sistema Galileu oppdaget anomalien
TRT-8 bruker Galileu, et generativt AI-verktøy utviklet av TRT-RS (Tribunal Regional fra Trabalho fra 4. Região) og adoptert nasjonalt av CSJT (Conselho Superior fra Justiça fra Trabalho). Plattformen bistår dommere og embetsmenn med å analysere prosessdokumenter og utarbeide utkast til avgjørelser.
Durante behandlet det mistenkelige dokumentet, systemet utløste et sikkerhetsvarsel og blokkerte innholdet. Etterfølgende menneskelig verifisering bekreftet manipulasjonsforsøket. Dommeren fremhevet at den endelige avgjørelsen imidlertid kom fra tradisjonell rettslig analyse etter en personlig vurdering av saken.
Consequências administrativ og disiplinær
Além av pengedommen, dommen bestemte sendingen av brev til to organer:
- OAB-PA (Ordem av Advogados av Brasil i Pará), for å åpne mulig disiplinærsak mot fagfolk
- Corregedoria fra TRT-8, for å registrere hendelsen i journalene
Aktor Vladimir Aras offentliggjorde saken på sosiale medier og uttalte at oppførselen representerte en alvorlig krenkelse. Segundo han, handlingen var “mye verre enn å beordre AI til å foreta en begjæring eller demonstrasjon eller avgjørelse og ikke sjekke resultatet”, da det innebar et bevisst forsøk på å ødelegge systemet.
Defesa av advokatene benekter dårlige intensjoner
Fagfolk bestrider tolkningen av setningen. I en uttalelse utgitt av CNN nektet de for å ha forsøkt å manipulere sorenskriveren eller rettspersonalet. Argumentaram at kommandoen søkte å beskytte klienten mot AI i seg selv, og ikke å påvirke den unødig.
“Det som skjedde, var i sannhet et forsøk på å beskytte klienten vår mot AI selv og ikke noe mer enn det”, erklærte de. Também uttrykte tillit til at vedtaket vil bli omgjort ved eventuelle klager.
Luanna til Sousa Alves, en av advokatene, presenterte et eget notat om at hun var tidligere partner i Alcina Cristina Medeiros Castro. Alegou arbeider kun innen sivile og trygdeområder og opplyste at han ikke hadde tilgang til filene før dommen ble avsagt.
Implicações for digital juridisk praksis
Saken illustrerer økende utfordringer med å ta i bruk AI-systemer av rettsinstitusjoner. Sistemas og Galileu får plass til å fremskynde prosedyreanalyser, men de skaper også nye vektorer for juridisk manipulasjon. Dommen skaper presedens for advokaters ansvar ved drift av kunstig intelligensverktøy i rettsmiljøer.
Avgjørelsen forsterker også at ansvaret for atferd ligger hos fagfolk, ikke hos klienten eller AI-systemet. Retten bekreftet at menneskelig verifisering fortsatt er et viktig skritt i den rettslige beslutningsprosessen, spesielt når teknologi er involvert.