ผู้พิพากษาปรับทนายความฐานแทรกคำสั่งที่ซ่อนอยู่ใน AI ของศาล

ผู้พิพากษาจากศาลแรงงานภูมิภาคภูมิภาคที่ 8 (TRT-8) ตัดสินให้ทนายความสองคนต้องจ่ายค่าปรับ หลังจากระบุถึงความพยายามที่จะบิดเบือนระบบ AI เทคนิคที่ใช้หรือที่เรียกว่า prompt injector เกี่ยวข้องกับการแทรกคำสั่งที่ซ่อนอยู่ลงในเอกสารขั้นตอนเพื่อเปลี่ยนพฤติกรรมของเครื่องมือปัญญาประดิษฐ์

การตัดสินใจชี้ให้เห็นว่าคำสั่งที่ซ่อนอยู่มีจุดมุ่งหมายเพื่อประนีประนอมการวิเคราะห์ AI หรือมีอิทธิพลต่อประโยคร่างที่สร้างโดยระบบ ผู้พิพากษาได้กำหนดค่าปรับเท่ากับ 10% ของมูลค่าคดี รวมเป็นเงินทั้งสิ้น 842,500.87 เรียลเรอัล เพื่อสนับสนุนสหภาพ

เทคนิคการจัดการทำงานอย่างไร

คำสั่งที่ซ่อนอยู่ถูกแทรกอยู่ในคำร้องที่ส่งโดยทนายความ กลยุทธ์ดังกล่าวพยายามที่จะสั่งให้ระบบ AI ใด ๆ ที่ประมวลผลเอกสาร ไม่ว่าจะมาจากศาลหรือฝ่ายตรงข้าม เพื่อสร้างความคิดเห็นแบบผิวเผินหรือการตัดสินใจที่เป็นอันตรายต่อผลประโยชน์ของฝ่ายตรงข้าม

ตามคำตัดสิน มีเจตนาที่ชัดเจน: เพื่อประนีประนอมการวิเคราะห์ทางเทคนิคและกฎหมาย ผู้พิพากษาประเมินว่าการกระทำดังกล่าวไม่สอดคล้องกับความสุจริตตามขั้นตอนและหน้าที่ของความภักดีระหว่างทั้งสองฝ่าย

ระบบกาลิเลโอตรวจพบความผิดปกติ

TRT-8 ใช้ Galileu ซึ่งเป็นเครื่องมือ AI สร้างสรรค์ที่พัฒนาโดย TRT-RS (ศาลแรงงานระดับภูมิภาคของภูมิภาคที่ 4) และนำมาใช้ในระดับประเทศโดย CSJT (สภายุติธรรมแรงงานขั้นสูง) แพลตฟอร์มนี้ช่วยเหลือผู้พิพากษาและข้าราชการในการวิเคราะห์เอกสารขั้นตอนและเตรียมร่างคำตัดสิน

ในระหว่างการประมวลผลเอกสารที่น่าสงสัย ระบบจะแจ้งเตือนความปลอดภัยและบล็อกเนื้อหา การตรวจสอบโดยมนุษย์ภายหลังได้ยืนยันความพยายามในการบิดเบือน ผู้พิพากษาเน้นย้ำว่าคำตัดสินขั้นสุดท้ายมาจากการวิเคราะห์ทางศาลแบบดั้งเดิม หลังจากการประเมินคดีเป็นการส่วนตัว

ผลทางการบริหารและทางวินัย

นอกเหนือจากประโยคทางการเงินแล้ว ประโยคดังกล่าวยังกำหนดการส่งจดหมายถึงสองร่าง:

• OAB-PA (Brazilian Bar Association in Pará) เพื่อเปิดการดำเนินการทางวินัยต่อผู้เชี่ยวชาญ
• TRT-8 กิจการภายใน เพื่อบันทึกเหตุการณ์ไว้ในบันทึก

อัยการ Vladimir Aras เผยแพร่คดีนี้บนโซเชียลมีเดียและระบุว่าการกระทำดังกล่าวถือเป็นการละเมิดอย่างร้ายแรง ตามที่เขาพูด การกระทำดังกล่าว “เลวร้ายยิ่งกว่าการสั่งให้ AI ยื่นคำร้อง สาธิต หรือตัดสินใจ โดยไม่ตรวจสอบผลลัพธ์” เนื่องจากเป็นการจงใจพยายามทำให้ระบบเสียหาย

Leia Tambem

สหรัฐอเมริกาจัดประเภท PCC และ Red Command เป็นกลุ่มก่อการร้ายโดยมีการปิดล้อมทรัพย์สิน

สหรัฐอเมริกาจัดประเภท PCC และ Red Command เป็นองค์กรก่อการร้ายโดยพิจารณาตัดสินตั้งแต่วันที่ 5 มิถุนายน

การประชุมสุดหรูที่ได้รับทุนจาก Daniel Vocaro ในนิวยอร์กกลายเป็นเป้าหมายของการสืบสวนของตำรวจกลาง

ฝ่ายจำเลยของทนายความปฏิเสธเจตนาร้าย

ผู้เชี่ยวชาญโต้แย้งการตีความประโยค ในคำแถลงที่เผยแพร่โดย CNN พวกเขาปฏิเสธว่าไม่ได้พยายามชักจูงผู้พิพากษาหรือเจ้าหน้าที่ศาล พวกเขาโต้แย้งว่าคำสั่งดังกล่าวพยายามปกป้องลูกค้าจาก AI เอง และไม่ให้มีอิทธิพลต่อมันมากเกินไป

“ความจริงแล้วสิ่งที่เกิดขึ้นคือความพยายามที่จะปกป้องลูกค้าของเราจาก AI และไม่มีอะไรมากไปกว่านั้น” พวกเขาประกาศ พวกเขายังแสดงความมั่นใจว่าคำตัดสินจะถูกยกเลิกในการอุทธรณ์ใดๆ

Luanna de Sousa Alves หนึ่งในทนายความนำเสนอบันทึกแยกต่างหากโดยระบุว่าเธอเป็นอดีตหุ้นส่วนของ Alcina Cristina Medeiros Castro เขาอ้างว่าทำงานเฉพาะในพื้นที่ประกันสังคมและพลเรือนเท่านั้น และระบุว่าเขาไม่สามารถเข้าถึงไฟล์เหล่านี้ได้ก่อนที่จะมีการรับโทษ

ผลกระทบต่อการปฏิบัติตามกฎหมายดิจิทัล

กรณีนี้แสดงให้เห็นถึงความท้าทายที่เพิ่มขึ้นในการนำระบบ AI มาใช้โดยสถาบันตุลาการ ระบบอย่างกาลิเลโอได้รับพื้นที่เพื่อเร่งการวิเคราะห์ขั้นตอน แต่ยังสร้างแนวทางใหม่ของการบิดเบือนทางกฎหมายด้วย คำตัดสินดังกล่าวถือเป็นบรรทัดฐานในความรับผิดชอบของนักกฎหมายเมื่อใช้งานเครื่องมือปัญญาประดิษฐ์ในสภาพแวดล้อมของศาล

การตัดสินใจดังกล่าวยังตอกย้ำว่าความรับผิดชอบในการดำเนินการนั้นเป็นของผู้เชี่ยวชาญ ไม่ใช่กับลูกค้าหรือระบบ AI ศาลยืนยันอีกครั้งว่าการตรวจสอบโดยมนุษย์ยังคงเป็นขั้นตอนสำคัญในกระบวนการตัดสินใจของศาล โดยเฉพาะอย่างยิ่งเมื่อมีเทคโนโลยีเข้ามาเกี่ยวข้อง