Domare bötfäller advokater för att ha lagt in dolda kommandon i domstols AI
En domare från Tribunal Regional av Trabalho av 8:e Região (TRT-8) dömde två advokater att betala böter efter att ha identifierat ett försök att manipulera ett AI-system. Tekniken som används, känd som prompt injektion, innebär att en dold instruktion infogas i ett procedurdokument för att ändra beteendet hos verktyg för artificiell intelligens.
Beslutet påpekade att det dolda kommandot syftade till att äventyra AI-analyser eller påverka utkast till meningar som genererades av systemet. Domaren fastställde böter motsvarande 10 % av värdet av målet, totalt 842 500,87 R$ till förmån för União.
Como fungerar manipulationsteknik
Det dolda kommandot infogades i en framställning skickad av advokaterna. Strategin syftade till att instruera alla AI-system som bearbetade dokumentet – oavsett om det kom från domstolen eller motparten – att generera ytliga åsikter eller beslut som är till skada för motsatta intressen.
Segundo meningen, avsikten var tydlig: att kompromissa med teknisk och juridisk analys. Domaren bedömde beteendet som oförenligt med processuell god tro och lojalitetsplikten mellan parterna.
Sistema Galileu upptäckte anomalien
TRT-8 använder Galileu, ett generativt AI-verktyg utvecklat av TRT-RS (Tribunal Regional från Trabalho från 4:e Região) och adopterat nationellt av CSJT (Conselho Superior från Justiça från Trabalho). Plattformen hjälper domare och tjänstemän med att analysera processhandlingar och förbereda utkast till beslut.
Durante behandlade det misstänkta dokumentet, systemet utlöste en säkerhetsvarning och blockerade innehållet. Efterföljande mänsklig verifiering bekräftade manipulationsförsöket. Domaren framhöll att det slutliga beslutet dock kom från traditionell rättslig analys efter en personlig bedömning av ärendet.
Consequências administrativt och disciplinärt
Além av den monetära domen bestämde domen sändningen av brev till två organ:
- OAB-PA (Ordem av Advogados av Brasil i Pará), för att inleda eventuella disciplinära förfaranden mot yrkesverksamma
- Corregedoria från TRT-8, för att registrera händelsen i register
Åklagaren Vladimir Aras publicerade fallet på sociala medier och konstaterade att beteendet utgjorde en allvarlig kränkning. Segundo han, åtgärden var “mycket värre än att beordra AI att göra en framställning eller demonstration eller beslut och inte kontrollera resultatet”, eftersom det innebar ett medvetet försök att korrumpera systemet.
Leia Também
George Russell säkrar pole position i det kaotiska kvalet till Formel 1 Österrikes Grand Prix
Kroatien x Ghana: var du kan se live, tid och laguppställningar för dagens fotbolls-VM-match
Panama x England: var du kan se live, tid och laguppställningar för dagens FIFA-VM-match
Defesa av advokaterna förnekar dåliga avsikter
Professionella bestrider tolkningen av meningen. I ett uttalande från CNN förnekade de att de försökt manipulera domaren eller domstolspersonalen. Argumentaram att kommandot försökte skydda klienten mot själva AI:n och inte påverka den i onödan.
“Det som hände var i sanning ett försök att skydda vår klient från AI själv och inget mer än det”, förklarade de. Também uttryckte förtroende för att beslutet kommer att upphävas vid eventuella överklaganden.
Luanna från Sousa Alves, en av advokaterna, presenterade en separat anteckning om att hon var en tidigare partner till Alcina Cristina Medeiros Castro. Alegou arbetar bara inom civil- och socialförsäkringsområdet och uppgav att han inte hade tillgång till akterna innan domen avkunnades.
Implicações för digital juridisk praxis
Fallet illustrerar växande utmaningar i antagandet av AI-system av rättsliga institutioner. Sistemas och Galileu får utrymme för att påskynda processuella analyser, men de skapar också nya vektorer för juridisk manipulation. Domen skapar ett prejudikat för advokaters ansvar när de använder verktyg för artificiell intelligens i rättsliga miljöer.
Beslutet förstärker också att ansvaret för beteendet ligger hos professionella, inte hos kunden eller AI-systemet. Domstolen bekräftade att mänsklig verifiering fortfarande är ett viktigt steg i den rättsliga beslutsprocessen, särskilt när teknik är inblandad.
