שופט מבית הדין האזורי לעבודה של אזור 8 (TRT-8) גזר על שני עורכי דין תשלום קנס לאחר שזיהה ניסיון לתמרן מערכת בינה מלאכותית. הטכניקה המשמשת, המכונה הזרקה מיידית, כוללת הכנסת הוראה נסתרת למסמך פרוצדורלי כדי לשנות את ההתנהגות של כלי בינה מלאכותית.
ההחלטה ציינה שהפקודה הנסתרת נועדה לסכן ניתוחי AI או להשפיע על טיוטות משפטים שנוצרו על ידי המערכת. השופט קבע קנס שווה ערך ל-10% משווי התיק, בסך של 842,500.87 דולר ארה”ב לטובת האיחוד.
איך עובדת טכניקת המניפולציה
הפקודה הנסתרת הוכנסה לעתירה ששלחו עורכי הדין. האסטרטגיה ביקשה להורות לכל מערכת AI שעיבדה את המסמך – בין אם מבית המשפט או מהצד שכנגד – לייצר דעות שטחיות או החלטות הפוגעות באינטרסים מנוגדים.
לפי הפסיקה, הכוונה הייתה ברורה: להתפשר על ניתוח טכני ומשפטי. השופט העריך את ההתנהגות כבלתי מתיישבת עם תום הלב הדיוני וחובת הנאמנות בין הצדדים.
מערכת גלילאו זיהתה את האנומליה
TRT-8 משתמש ב-Galileu, כלי בינה מלאכותית גנרטיבית שפותחה על ידי TRT-RS (בית הדין האזורי לעבודה של אזור 4) ואומץ ארצית על ידי ה-CSJT (המועצה העליונה לעבודה). הפלטפורמה מסייעת לשופטים ולעובדי מדינה בניתוח מסמכים פרוצדורליים ובהכנת טיוטות החלטות.
במהלך עיבוד המסמך החשוד הפעילה המערכת התראת אבטחה וחסמה את התוכן. אימות אנושי לאחר מכן אישר את ניסיון המניפולציה. השופט הדגיש כי ההחלטה הסופית, עם זאת, הגיעה מניתוח שיפוטי מסורתי לאחר הערכה אישית של המקרה.
השלכות מנהליות ומשמעתיות
בנוסף לעונש הכספי, העונש קבע משלוח מכתבים לשני גופים:
- OAB-PA (לשכת עורכי הדין הברזילאית בפארה), לפתוח בהליכים משמעתיים אפשריים נגד אנשי מקצוע
- TRT-8 לענייני פנים, לתיעוד האירוע ברישומים
התובע ולדימיר אראס פרסם את המקרה ברשתות החברתיות וקבע כי ההתנהלות מהווה הפרה חמורה. לדבריו, הפעולה הייתה “הרבה יותר גרועה מלהורות ל-AI לבצע עצומה או הפגנה או החלטה ולא לבדוק את התוצאה”, שכן מדובר היה בניסיון מכוון להשחית את המערכת.
ההגנה של עורכי דין מכחישה כוונת זדון
אנשי מקצוע חולקים על פרשנות המשפט. בהצהרה שפרסמה CNN, הם הכחישו שניסו לתמרן את צוות השלום או בית המשפט. הם טענו שהפקודה ביקשה להגן על הלקוח מפני הבינה המלאכותית עצמה, ולא להשפיע עליו בצורה בלתי הוגנת.
“מה שקרה, למען האמת, היה ניסיון להגן על הלקוח שלנו מפני AI עצמו ולא יותר מזה”, הם הכריזו. הם גם הביעו ביטחון שההחלטה תבוטל בכל ערעור.
לואנה דה סוזה אלבס, אחת מעורכי הדין, הציגה פתק נפרד לפיו היא הייתה שותפה לשעבר של אלצ’ינה כריסטינה מדיירוס קסטרו. הוא טען כי הוא עובד רק בתחומי הביטוח האזרחי והביטוח הלאומי וציין כי לא הייתה לו גישה לתיקים לפני מתן גזר הדין.
השלכות על הפרקטיקה המשפטית הדיגיטלית
המקרה ממחיש אתגרים הולכים וגדלים באימוץ מערכות בינה מלאכותית על ידי מוסדות משפט. מערכות כמו גלילאו צוברות מקום להאיץ ניתוחים פרוצדורליים, אבל הן גם יוצרות וקטורים חדשים של מניפולציה משפטית. פסק הדין יוצר תקדים לאחריותם של עורכי דין בעת הפעלת כלי בינה מלאכותית בסביבות שיפוטיות.
ההחלטה גם מחזקת שהאחריות להתנהלות מוטלת על אנשי מקצוע, לא על הלקוח או על מערכת הבינה המלאכותית. בית המשפט אישר שוב כי אימות אנושי נותר שלב חיוני בתהליך קבלת ההחלטות השיפוטיות, במיוחד כאשר טכנולוגיה מעורבת.
