Суддя штрафує адвокатів за введення прихованих команд у ШІ суду
Суддя з Tribunal Regional з Trabalho з 8-го Região (TRT-8) засудив двох адвокатів до сплати штрафу після виявлення спроби маніпулювання системою ШІ. Використана техніка, відома як швидка ін’єкція, передбачає вставлення прихованої інструкції в процедурний документ для зміни поведінки інструментів штучного інтелекту.
У рішенні вказувалося, що прихована команда мала на меті скомпрометувати аналіз штучного інтелекту або вплинути на чернетки речень, які генерує система. Суддя визначив штраф, еквівалентний 10% від вартості справи, на загальну суму 842 500,87 реалів на користь União.
Como працює технікою маніпуляції
Прихована команда була вставлена в петицію, надіслану адвокатами. Стратегія мала на меті наказати будь-якій системі штучного інтелекту, яка обробляла документ — чи то від суду чи протилежної сторони — генерувати поверхневі думки чи рішення, що завдають шкоди протилежним інтересам.
Segundo речення, намір був ясним: скомпрометувати технічний і юридичний аналіз. Суддя оцінив поведінку як несумісну з процесуальною добросовісністю та обов’язком лояльності між сторонами.
Sistema Galileu виявив аномалію
TRT-8 використовує Galileu, генеративний інструмент штучного інтелекту, розроблений TRT-RS (Tribunal Regional від Trabalho від 4th Região) і прийнятий на національному рівні CSJT (Conselho Superior від Justiça від Trabalho). Платформа допомагає суддям та державним службовцям аналізувати процесуальні документи та готувати проекти рішень.
Durante обробив підозрілий документ, система активувала сповіщення безпеки та заблокувала вміст. Подальша перевірка людиною підтвердила спробу маніпуляції. Суддя підкреслив, що остаточне рішення, однак, прийшло в результаті традиційного судового аналізу після особистої оцінки справи.
Consequências адміністративно-дисциплінарна
Além грошового вироку, вироком визначено відправлення листів до двох органів:
- OAB-PA (Ordem з Advogados з Brasil у Pará), щоб відкрити можливі дисциплінарні провадження проти професіоналів
- Corregedoria з TRT-8, щоб записати інцидент у записи
Прокурор Vladimir Aras опублікував справу в соціальних мережах і заявив, що така поведінка є серйозним порушенням. Segundo він, ця дія була «набагато гіршою, ніж наказ штучному інтелекту зробити петицію, демонстрацію чи рішення без перевірки результату», оскільки вона передбачала навмисну спробу пошкодити систему.
Leia Também
Джордж Рассел завоював першу позицію в хаотичній кваліфікації Гран-прі Австрії Формули-1
Хорватія x Гана: де дивитися пряму трансляцію, час і склади на сьогоднішню гру Чемпіонату світу з футболу
Панама – Англія: де дивитися пряму трансляцію, час і склади на сьогоднішню гру Чемпіонату світу з футболу
Юристи Defesa заперечують злі наміри
Професіонали сперечаються щодо тлумачення вироку. У заяві, оприлюдненій CNN, вони заперечували, що намагалися маніпулювати магістратом або працівниками суду. Argumentaram, що команда прагнула захистити клієнта від самого AI, а не впливати на нього надмірно.
«Те, що сталося, насправді, було спробою захистити нашого клієнта від самого штучного інтелекту і не більше того», — заявили вони. Também висловив упевненість, що рішення буде скасовано в будь-яких апеляціях.
Luanna з Sousa Alves, одного з юристів, надала окрему записку про те, що вона була колишнім партнером Alcina Cristina Medeiros Castro. Alegou працює лише у сфері цивільного та соціального забезпечення та заявив, що не мав доступу до файлів до винесення вироку.
Implicações для цифрової юридичної практики
Цей випадок ілюструє зростаючі проблеми у впровадженні систем ШІ судовими установами. Sistemas і Galileu отримують простір для прискорення процедурного аналізу, але вони також створюють нові вектори правових маніпуляцій. Це рішення створює прецедент щодо відповідальності юристів за використання інструментів штучного інтелекту в судовому середовищі.
Рішення також підтверджує, що відповідальність за поведінку лежить на професіоналах, а не на клієнті чи системі ШІ. Суд підтвердив, що перевірка людиною залишається важливим кроком у процесі прийняття судових рішень, особливо коли задіяні технології.
