Съдия от Tribunal Regional на Trabalho от 8-ми Região (TRT-8) осъди двама адвокати да платят глоба след идентифициране на опит за манипулиране на AI система. Използваната техника, известна като бързо инжектиране, включва вмъкване на скрита инструкция в процедурен документ за промяна на поведението на инструментите за изкуствен интелект.
В решението се посочва, че скритата команда има за цел да компрометира анализите на AI или да повлияе на чернови на изречения, генерирани от системата. Съдията определи глоба, равняваща се на 10% от стойността на делото, на обща стойност R$842,500.87 в полза на União.
Como работи с манипулационна техника
Скритата команда е вмъкната в петиция, изпратена от адвокатите. Стратегията има за цел да инструктира всяка AI система, която обработва документа – независимо дали е от съда или от противната страна – да генерира повърхностни мнения или решения, които са в ущърб на противоположните интереси.
Segundo изречението, намерението беше ясно: да се компрометира технически и правен анализ. Съдията оцени поведението като несъвместимо с процесуалната добросъвестност и задължението за лоялност между страните.
Sistema Galileu откри аномалията
TRT-8 използва Galileu, генериращ AI инструмент, разработен от TRT-RS (Tribunal Regional от Trabalho от 4th Região) и приет на национално ниво от CSJT (Conselho Superior от Justiça от Trabalho). Платформата подпомага съдии и държавни служители при анализиране на процесуални документи и изготвяне на проекти за решения.
Durante обработи подозрителния документ, системата задейства предупреждение за сигурност и блокира съдържанието. Последвалата човешка проверка потвърди опита за манипулация. Съдията подчерта, че окончателното решение обаче идва от традиционния съдебен анализ след лична оценка на случая.
Consequências административно-дисциплинарни
Além на паричната присъда, присъдата определя изпращането на писма до два органа:
- OAB-PA (Ordem от Advogados от Brasil в Pará), за откриване на възможни дисциплинарни производства срещу професионалистите
- Corregedoria от TRT-8, за да запишете инцидента в записите
Прокурор Vladimir Aras разгласи случая в социалните мрежи и заяви, че поведението представлява сериозно нарушение. Segundo той, действието беше „много по-лошо от това да наредиш на AI да направи петиция или демонстрация или решение и да не провери резултата“, тъй като включваше умишлен опит за корумпиране на системата.
Defesa от адвокатите отрича лоши намерения
Професионалистите оспорват тълкуването на изречението. В изявление, публикувано от CNN, те отрекоха да са се опитвали да манипулират магистрата или съдебния персонал. Argumentaram, че командата се стреми да защити клиента от самия AI, а не да му влияе неправомерно.
„Това, което се случи, всъщност беше опит да защитим нашия клиент от самия AI и нищо повече от това“, заявиха те. Também изрази увереност, че решението ще бъде отменено при всякакви обжалвания.
Luanna на Sousa Alves, един от адвокатите, представи отделна бележка, в която се посочва, че тя е бивш партньор на Alcina Cristina Medeiros Castro. Alegou работи само в областта на гражданското и социалното осигуряване и заяви, че не е имал достъп до досиетата преди произнасянето на присъдата.
Implicações за цифрова юридическа практика
Случаят илюстрира нарастващите предизвикателства при приемането на системи с ИИ от съдебните институции. Sistemas и Galileu печелят пространство за ускоряване на процедурните анализи, но също така създават нови вектори на правна манипулация. Решението създава прецедент относно отговорността на адвокатите, когато работят с инструменти за изкуствен интелект в съдебна среда.
Решението също така засилва, че отговорността за поведението се носи от професионалистите, а не от клиента или AI системата. Съдът потвърди, че човешката проверка остава съществена стъпка в процеса на вземане на съдебни решения, особено когато са включени технологии.