القاضي يفرض غرامات على المحامين لإدخال أوامر مخفية في المحكمة AI
حكم قاض من محكمة العمل الإقليمية بالمنطقة الثامنة (TRT-8) على محاميين بدفع غرامة بعد تحديد محاولة للتلاعب بنظام الذكاء الاصطناعي. تتضمن التقنية المستخدمة، والمعروفة باسم الحقن الفوري، إدخال تعليمات مخفية في مستند إجرائي لتغيير سلوك أدوات الذكاء الاصطناعي.
وأشار القرار إلى أن الأمر المخفي يهدف إلى المساس بتحليلات الذكاء الاصطناعي أو التأثير على مسودات الجمل التي يصدرها النظام. وحدد القاضي غرامة تعادل 10% من قيمة القضية، بإجمالي 842.500.87 ريال برازيلي لصالح الاتحاد.
كيف تعمل تقنية التلاعب
تم إدراج الأمر المخفي ضمن عريضة أرسلها المحامون. سعت الاستراتيجية إلى توجيه أي نظام ذكاء اصطناعي يقوم بمعالجة الوثيقة – سواء من المحكمة أو الطرف المعارض – لتوليد آراء أو قرارات سطحية تضر بالمصالح المتعارضة.
وبحسب الحكم، فإن النية كانت واضحة: المساس بالتحليل الفني والقانوني. واعتبر القاضي أن السلوك يتعارض مع حسن النية الإجرائية وواجب الولاء بين الطرفين.
اكتشف نظام غاليليو هذا الشذوذ
يستخدم TRT-8 غاليليو، وهي أداة ذكاء اصطناعي توليدية طورتها TRT-RS (محكمة العمل الإقليمية للمنطقة الرابعة) وتم اعتمادها على المستوى الوطني من قبل CSJT (المجلس الأعلى لعدالة العمل). تساعد المنصة القضاة وموظفي الخدمة المدنية في تحليل الوثائق الإجرائية وإعداد مشاريع القرارات.
أثناء معالجة المستند المشبوه، أطلق النظام تنبيهًا أمنيًا وقام بحظر المحتوى. وأكد التحقق البشري اللاحق محاولة التلاعب. وشدد القاضي على أن القرار النهائي جاء من التحليل القضائي التقليدي بعد تقييم شخصي للقضية.
العواقب الإدارية والتأديبية
وبالإضافة إلى الجملة النقدية، حددت الجملة إرسال الرسائل إلى جثتين:
- OAB-PA (نقابة المحامين البرازيلية في بارا)، لفتح إجراءات تأديبية محتملة ضد المهنيين
- TRT-8 الشؤون الداخلية، لتسجيل الحادث في السجلات
نشر المدعي العام فلاديمير أراس القضية على وسائل التواصل الاجتماعي وذكر أن السلوك يمثل انتهاكًا خطيرًا. ووفقا له، فإن الإجراء “أسوأ بكثير من أمر الذكاء الاصطناعي بتقديم التماس أو مظاهرة أو قرار وعدم التحقق من النتيجة”، لأنه ينطوي على محاولة متعمدة لإفساد النظام.
Leia Também
يتمتع مالكو PlayStation 5 بإمكانية الوصول مدى الحياة إلى لعبتين رئيسيتين في متجر Sony الرقمي
تصل لعبة الفيديو التالية من Nintendo إلى السوق من خلال إعادة إنشاء كاملة للعبة Zelda Ocarina of Time الكلاسيكية
تؤكد شركة Apple إطلاق iPhone 18 Pro Max مع عدسة بدقة 200 ميجابكسل ونموذج جديد قابل للطي
والدفاع عن المحامين ينفي وجود نوايا خبيثة
المهنيين يجادلون في تفسير الجملة. وفي بيان أصدرته شبكة CNN، أنكروا محاولتهم التلاعب بالقاضي أو موظفي المحكمة. وجادلوا بأن الأمر يسعى إلى حماية العميل من الذكاء الاصطناعي نفسه، وليس التأثير عليه بشكل غير مبرر.
وأعلنوا أن “ما حدث، في الحقيقة، كان محاولة لحماية عميلنا من الذكاء الاصطناعي نفسه وليس أكثر من ذلك”. كما أعربوا عن ثقتهم في إمكانية التراجع عن القرار في أي استئناف.
وقدمت لوانا دي سوزا ألفيس، إحدى المحاميات، مذكرة منفصلة تفيد بأنها كانت شريكة سابقة لألسينا كريستينا ميديروس كاسترو. وادعى أنه يعمل فقط في مجالي الضمان المدني والاجتماعي، وذكر أنه لم يكن بإمكانه الوصول إلى الملفات قبل صدور الحكم.
الآثار المترتبة على الممارسة القانونية الرقمية
توضح هذه القضية التحديات المتزايدة في اعتماد أنظمة الذكاء الاصطناعي من قبل المؤسسات القضائية. تكتسب أنظمة مثل غاليليو مساحة لتسريع التحليلات الإجرائية، ولكنها تخلق أيضًا ناقلات جديدة للتلاعب القانوني. ويشكل الحكم سابقة فيما يتعلق بمسؤولية المحامين عند تشغيل أدوات الذكاء الاصطناعي في البيئات القضائية.
ويعزز القرار أيضًا أن مسؤولية السلوك تقع على عاتق المتخصصين، وليس على عاتق العميل أو نظام الذكاء الاصطناعي. وأكدت المحكمة من جديد أن التحقق البشري يظل خطوة أساسية في عملية صنع القرار القضائي، خاصة عندما يتعلق الأمر بالتكنولوجيا.
