裁判官、法廷AIに隠しコマンドを挿入した弁護士に罰金刑
第 8 地域地方労働裁判所 (TRT-8) の裁判官は、AI システムを操作しようとした試みを特定した後、弁護士 2 名に罰金の支払いを言い渡した。プロンプト インジェクションとして知られるこの手法では、手順ドキュメントに隠された命令を挿入して人工知能ツールの動作を変更します。
判決は、隠しコマンドがAI分析を侵害したり、システムが生成する草案に影響を与えたりすることを目的としていたと指摘した。裁判官は、連合に有利な総額842,500.87レアルの訴訟金額の10％に相当する罰金を決定した。
操作テクニックの仕組み
この隠し命令は弁護士らから送られた嘆願書に挿入されていた。この戦略は、文書を処理するAIシステム（裁判所からのものであれ、相手方からのものであれ）に、対立する利益に有害な表面的な意見や決定を生成するよう指示することを目的としていました。
判決によると、技術的分析と法的分析に妥協するという意図は明らかだった。裁判官は、この行為は手続き上の誠実さと当事者間の忠実義務に矛盾すると評価した。
Galileo システムが異常を検出しました
TRT-8 は、TRT-RS (第 4 地域労働裁判所) によって開発され、CSJT (労働司法上級評議会) によって全国的に採用された生成 AI ツールである Galileu を使用します。このプラットフォームは、裁判官や公務員が手続き文書を分析し、決定草案を作成するのを支援します。
不審な文書の処理中に、システムはセキュリティ警告をトリガーし、コンテンツをブロックしました。その後の人による検証により、改ざんの試みが確認されました。しかし、裁判官は、最終決定は事件の個人的な評価を経た伝統的な司法分析に基づいて下されたことを強調した。
管理上および懲戒上の影響
この判決では、金銭刑に加えて、以下の 2 団体への手紙の送付も決定されました。
- OAB-PA（パラー州ブラジル弁護士協会）、専門家に対する懲戒手続きの可能性を開始
- TRT-8 内務部門、事件を記録に記録する
ウラジミール・アラス検察官はソーシャルメディアでこの事件を公表し、この行為は重大な違反であると述べた。同氏によると、この行為はシステムを破壊する意図的な試みを伴うもので、「AIに請願やデモ、決定を命令して結果を確認しないよりもはるかに悪質」だったという。
Leia Também
弁護士の弁護側は悪意を否定
専門家らはこの文の解釈に異議を唱えている。 CNNが発表した声明の中で、彼らは判事や裁判所職員を操作しようとしたことを否定した。彼らは、このコマンドはAI自体からクライアントを保護することを目的としたものであり、AIに不当な影響を与えるものではないと主張した。
「実際に起こったことは、クライアントをAIそのものから守ろうという試みであり、それ以上のものではない」と彼らは断言した。彼らはまた、いかなる控訴においても決定が覆されることに自信を表明した。
弁護士の一人であるルアンナ・デ・ソウサ・アウベスは、彼女がアルチーナ・クリスティーナ・メデイロス・カストロの元パートナーであると述べた別のメモを提出した。同氏は民事・社会保障分野でしか働いていないと主張し、判決が言い渡されるまでファイルにアクセスできなかったと述べた。
デジタル法務への影響
この事件は、司法機関による AI システムの導入における課題の増大を示しています。 Galileo のようなシステムは、手続き分析を高速化するスペースを獲得しますが、法的操作の新たなベクトルも生み出します。この判決は、司法環境で人工知能ツールを運用する際の弁護士の責任に関する先例となる。
この決定はまた、行為に対する責任はクライアントや AI システムではなく、専門家にあることを強調しています。裁判所は、特にテクノロジーが関与する場合には、司法上の意思決定プロセスにおいて人による検証が引き続き不可欠なステップであることを再確認した。
