Một thẩm phán của Tòa án Lao động khu vực Khu vực 8 (TRT-8) đã kết án hai luật sư nộp phạt sau khi xác định hành vi cố gắng thao túng hệ thống AI. Kỹ thuật được sử dụng, được gọi là nhắc nhở, bao gồm việc chèn một hướng dẫn ẩn vào tài liệu thủ tục để thay đổi hành vi của các công cụ trí tuệ nhân tạo.
Quyết định chỉ ra rằng lệnh ẩn nhằm mục đích xâm phạm các phân tích AI hoặc ảnh hưởng đến các câu nháp do hệ thống tạo ra. Thẩm phán đã xác định mức phạt tương đương 10% giá trị vụ án, tổng cộng là 842.500,87 đô la R có lợi cho Liên minh.
Kỹ thuật thao tác hoạt động như thế nào
Lệnh ẩn được chèn vào trong đơn thỉnh cầu do luật sư gửi đến. Chiến lược này tìm cách hướng dẫn bất kỳ hệ thống AI nào xử lý tài liệu – dù là từ tòa án hay bên đối lập – tạo ra những ý kiến hoặc quyết định hời hợt gây bất lợi cho lợi ích đối lập.
Theo phán quyết, mục đích rất rõ ràng: thỏa hiệp phân tích kỹ thuật và pháp lý. Thẩm phán đánh giá hành vi này không phù hợp với thiện chí tố tụng và nghĩa vụ trung thành giữa các bên.
Hệ thống Galileo phát hiện sự bất thường
TRT-8 sử dụng Galileu, một công cụ AI tổng quát được phát triển bởi TRT-RS (Tòa án Lao động Khu vực Khu vực 4) và được CSJT (Hội đồng Tư pháp Lao động Cấp cao) thông qua trên toàn quốc. Nền tảng này hỗ trợ các thẩm phán và công chức phân tích các văn bản tố tụng và chuẩn bị dự thảo quyết định.
Trong quá trình xử lý tài liệu đáng ngờ, hệ thống đã kích hoạt cảnh báo bảo mật và chặn nội dung. Xác minh của con người sau đó đã xác nhận nỗ lực thao túng. Tuy nhiên, thẩm phán nhấn mạnh rằng quyết định cuối cùng đến từ phân tích tư pháp truyền thống sau khi đánh giá cá nhân về vụ việc.
Hậu quả hành chính và kỷ luật
Ngoài hình phạt tiền, bản án còn xác định việc gửi thư cho hai cơ quan:
- OAB-PA (Hiệp hội Luật sư Brazil ở Pará), để mở các thủ tục kỷ luật có thể xảy ra đối với các chuyên gia
- TRT-8 Nội vụ, để ghi lại sự việc vào hồ sơ
Công tố viên Vladimir Aras đã công khai vụ việc trên mạng xã hội và tuyên bố rằng hành vi này thể hiện sự vi phạm nghiêm trọng. Theo ông, hành động này “tệ hơn nhiều so với việc ra lệnh cho AI đưa ra kiến nghị, trình diễn hoặc quyết định và không kiểm tra kết quả”, vì nó liên quan đến một nỗ lực cố tình làm hỏng hệ thống.
Luật sư bào chữa phủ nhận ý đồ xấu
Các chuyên gia tranh cãi về việc giải thích câu. Trong một tuyên bố do CNN đưa ra, họ phủ nhận việc cố gắng thao túng thẩm phán hoặc nhân viên tòa án. Họ lập luận rằng lệnh này nhằm mục đích bảo vệ khách hàng trước chính AI và không gây ảnh hưởng quá mức đến nó.
Họ tuyên bố: “Thật ra những gì đã xảy ra là một nỗ lực để bảo vệ khách hàng của chúng tôi khỏi chính AI và không có gì hơn thế”. Họ cũng bày tỏ sự tin tưởng rằng quyết định sẽ được đảo ngược trong bất kỳ kháng cáo nào.
Luanna de Sousa Alves, một trong những luật sư, đã đưa ra một ghi chú riêng nói rằng cô ấy là đối tác cũ của Alcina Cristina Medeiros Castro. Anh ta khai chỉ làm việc trong lĩnh vực an ninh dân sự, xã hội và cho biết anh ta không được tiếp cận hồ sơ trước khi bản án được tuyên.
Ý nghĩa đối với thực hành pháp lý kỹ thuật số
Vụ việc minh họa những thách thức ngày càng tăng trong việc áp dụng hệ thống AI của các tổ chức tư pháp. Các hệ thống như Galileo giành được không gian để tăng tốc độ phân tích thủ tục, nhưng chúng cũng tạo ra các hướng mới về thao túng pháp lý. Phán quyết đặt ra tiền lệ về trách nhiệm của luật sư khi vận hành các công cụ trí tuệ nhân tạo trong môi trường tư pháp.
Quyết định này cũng củng cố rằng trách nhiệm ứng xử thuộc về các chuyên gia, không phải ở khách hàng hay hệ thống AI. Tòa án tái khẳng định rằng việc xác minh con người vẫn là một bước thiết yếu trong quá trình ra quyết định của tòa án, đặc biệt khi có liên quan đến công nghệ.
