Судья Окружного трудового суда 8-го округа (ТРТ-8) приговорил двух адвокатов к уплате штрафа после выявления попытки манипулирования системой искусственного интеллекта. Используемый метод, известный как быстрое внедрение, предполагает вставку скрытой инструкции в процедурный документ для изменения поведения инструментов искусственного интеллекта.
В решении указывалось, что скрытая команда была направлена на то, чтобы скомпрометировать анализы ИИ или повлиять на проекты предложений, генерируемые системой. Судья определил штраф в размере 10% от стоимости дела на общую сумму 842 500,87 реалов в пользу Союза.
Как работает техника манипуляции
Скрытый приказ был вставлен в петицию, отправленную адвокатами. Стратегия была направлена на то, чтобы дать указание любой системе искусственного интеллекта, которая обрабатывала документ — будь то от суда или противной стороны — генерировать поверхностные мнения или решения, наносящие ущерб интересам противоположной стороны.
Согласно постановлению, намерение было ясным: скомпрометировать технический и юридический анализ. Судья оценил такое поведение как несовместимое с процессуальной добросовестностью и обязанностью соблюдать лояльность между сторонами.
Система Galileo обнаружила аномалию
TRT-8 использует Galileu, инструмент генеративного искусственного интеллекта, разработанный TRT-RS (Региональный трудовой суд 4-го региона) и принятый на национальном уровне CSJT (Высшим советом трудовой юстиции). Платформа помогает судьям и госслужащим анализировать процессуальные документы и готовить проекты решений.
Во время обработки подозрительного документа система выдала предупреждение системы безопасности и заблокировала его содержимое. Последующая проверка человеком подтвердила попытку манипуляции. Судья подчеркнул, что окончательное решение, однако, было принято на основе традиционного судебного анализа после личной оценки дела.
Административные и дисциплинарные последствия
Помимо денежного наказания, приговор определял отправку писем в два органа:
- OAB-PA (Бразильская коллегия адвокатов в Пара) возбудит возможное дисциплинарное производство против профессионалов
- ТРТ-8 ОВД, зафиксировать происшествие в протоколе.
Прокурор Владимир Арас опубликовал дело в социальных сетях и заявил, что такое поведение представляет собой серьезное нарушение. По его словам, действие было «гораздо хуже, чем приказать ИИ подать петицию, демонстрацию или решение и не проверить результат», поскольку оно предполагало преднамеренную попытку коррумпировать систему.
Защита адвокатов отрицает злой умысел
Профессионалы оспаривают интерпретацию приговора. В заявлении, опубликованном CNN, они отрицают попытки манипулировать судьей или персоналом суда. Они утверждали, что команда стремилась защитить клиента от самого ИИ, а не оказывать на него неоправданное влияние.
«На самом деле то, что произошло, было попыткой защитить нашего клиента от самого ИИ и не более того», — заявили они. Они также выразили уверенность, что решение будет отменено при любых апелляциях.
Луанна де Соуза Алвес, одна из адвокатов, представила отдельную записку, в которой говорилось, что она была бывшей партнершей Альсины Кристины Медейрос Кастро. Он утверждал, что работает только в сфере гражданского и социального обеспечения, и заявил, что у него не было доступа к материалам до вынесения приговора.
Последствия для цифровой юридической практики
Этот случай иллюстрирует растущие проблемы при внедрении систем искусственного интеллекта судебными учреждениями. Такие системы, как Galileo, дают возможность ускорить процессуальный анализ, но они также создают новые векторы юридических манипуляций. Постановление создает прецедент ответственности юристов при использовании инструментов искусственного интеллекта в судебной среде.
Решение также подтверждает, что ответственность за поведение лежит на профессионалах, а не на клиенте или системе ИИ. Суд подтвердил, что проверка человеком остается важным шагом в процессе принятия судебных решений, особенно когда речь идет о технологиях.