En dommer fra Tribunal Regional af Trabalho af 8. Região (TRT-8) dømte to advokater til at betale en bøde efter at have identificeret et forsøg på at manipulere et AI-system. Den anvendte teknik, kendt som prompt injektion, involverer indsættelse af en skjult instruktion i et proceduredokument for at ændre adfærden af kunstige intelligensværktøjer.
Beslutningen påpegede, at den skjulte kommando havde til formål at kompromittere AI-analyser eller påvirke udkast til sætninger genereret af systemet. Dommeren fastsatte en bøde svarende til 10% af sagens værdi, i alt R$842.500,87 til fordel for União.
Como virker manipulationsteknik
Den skjulte kommando blev indsat i et andragende sendt af advokaterne. Strategien søgte at instruere ethvert AI-system, der behandlede dokumentet – hvad enten det var fra retten eller modparten – til at generere overfladiske meninger eller beslutninger, der var til skade for modsatte interesser.
Segundo sætningen, hensigten var klar: at kompromittere teknisk og juridisk analyse. Dommeren vurderede adfærden som uforenelig med processuel god tro og loyalitetspligten mellem parterne.
Sistema Galileu detekterede anomalien
TRT-8 bruger Galileu, et generativt AI-værktøj udviklet af TRT-RS (Tribunal Regional fra Trabalho fra 4. Região) og vedtaget nationalt af CSJT (Conselho Superior fra Justiça fra Trabalho). Platformen bistår dommere og embedsmænd med at analysere procesdokumenter og udarbejde udkast til afgørelser.
Durante behandlede det mistænkelige dokument, systemet udløste en sikkerhedsalarm og blokerede indholdet. Efterfølgende menneskelig verifikation bekræftede manipulationsforsøget. Dommeren fremhævede, at den endelige afgørelse dog kom fra traditionel retsanalyse efter en personlig vurdering af sagen.
Consequências administrativ og disciplinær
Além af den monetære dom, dommen bestemte afsendelsen af breve til to organer:
- OAB-PA (Ordem af Advogados af Brasil i Pará), for at åbne mulige disciplinærsager mod de professionelle
- Corregedoria fra TRT-8, for at registrere hændelsen i journalerne
Anklager Vladimir Aras offentliggjorde sagen på sociale medier og udtalte, at adfærden repræsenterede en alvorlig krænkelse. Segundo han, handlingen var “meget værre end at beordre AI til at lave et andragende eller demonstration eller beslutning og ikke kontrollere resultatet”, da det involverede et bevidst forsøg på at korrumpere systemet.
Defesa af advokaterne benægter dårlige hensigter
Fagfolk bestrider fortolkningen af sætningen. I en erklæring udgivet af CNN nægtede de at have forsøgt at manipulere dommeren eller rettens personale. Argumentaram, at kommandoen søgte at beskytte klienten mod selve AI’en og ikke at påvirke den unødigt.
“Det, der skete, var i sandhed et forsøg på at beskytte vores klient mod AI selv og intet mere end det”, erklærede de. Também udtrykte tillid til, at afgørelsen vil blive omgjort ved eventuelle klager.
Luanna fra Sousa Alves, en af advokaterne, fremlagde et særskilt notat om, at hun var tidligere partner til Alcina Cristina Medeiros Castro. Alegou arbejder kun inden for det civile og sociale sikringsområde og oplyste, at han ikke havde aktindsigt, før dommen blev afsagt.
Implicações til digital juridisk praksis
Sagen illustrerer voksende udfordringer i retslige institutioners adoption af AI-systemer. Sistemas og Galileu får plads til at fremskynde proceduremæssige analyser, men de skaber også nye vektorer for juridisk manipulation. Dommen skaber præcedens for advokaters ansvar, når de betjener kunstig intelligens-værktøjer i retsmiljøer.
Beslutningen forstærker også, at ansvaret for adfærd ligger hos fagfolk, ikke hos klienten eller AI-systemet. Retten bekræftede, at menneskelig verifikation fortsat er et væsentligt skridt i den retlige beslutningsproces, især når teknologi er involveret.