律师因在法庭人工智能中插入隐藏命令而被法官处以罚款
第八地区劳动法院 (TRT-8) 的一名法官在发现两名律师试图操纵人工智能系统后，判处两名律师罚款。所使用的技术称为提示注入，涉及将隐藏指令插入到程序文档中以改变人工智能工具的行为。
该决定指出，隐藏命令的目的是损害人工智能分析或影响系统生成的句子草稿。法官裁定对工会处以相当于案件价值 10% 的罚款，总计 842,500.87 雷亚尔。
操纵技术如何运作
隐藏的命令被插入到律师发送的请愿书中。该策略试图指示任何处理该文件的人工智能系统——无论是来自法院还是对方——产生不利于对方利益的肤浅意见或决定。
根据裁决，其意图很明确：损害技术和法律分析。法官认为该行为不符合程序诚信和双方之间的忠诚义务。
伽利略系统检测到异常
TRT-8 使用 Galileu，这是一种由 TRT-RS（第四地区劳动法院）开发并由 CSJT（劳动司法高级委员会）在全国范围内采用的生成式人工智能工具。该平台协助法官和公务员分析程序文件并准备决定草案。
在处理可疑文档的过程中，系统触发了安全警报并屏蔽了内容。随后的人工验证证实了操纵企图。法官强调，最终的决定是基于对案件的个人评估后的传统司法分析。
行政和纪律后果
除了金钱处罚外，该判决还决定向两个机构发送信件：
- OAB-PA（帕拉州巴西律师协会）将针对专业人士启动可能的纪律处分程序
- TRT-8内政部，将事件记录在案
检察官弗拉基米尔·阿拉斯在社交媒体上公布了此案，并表示该行为构成严重违法行为。他表示，这一行为“比命令人工智能提出请愿、示威或决定而不检查结果要糟糕得多”，因为它涉及故意破坏系统。
Leia Também
律师辩护否认恶意
专业人士对这句话的解释存在争议。在美国有线电视新闻网（CNN）发布的一份声明中，他们否认曾试图操纵治安法官或法院工作人员。他们认为，该命令旨在保护客户免受人工智能本身的侵害，而不是过度影响它。
他们宣称：“事实上，所发生的事情是为了保护我们的客户免受人工智能本身的影响，仅此而已”。他们还表示相信，任何上诉都会推翻该决定。
其中一名律师卢安娜·德索萨·阿尔维斯 (Luanna de Sousa Alves) 提交了一份单独的说明，称她是阿尔西娜·克里斯蒂娜·梅代罗斯·卡斯特罗 (Alcina Cristina Medeiros Castro) 的前合伙人。他声称只在民事和社会保障领域工作，并表示在判决前他无法查阅这些档案。
对数字法律实践的影响
该案说明司法机构在采用人工智能系统方面面临越来越大的挑战。像伽利略这样的系统获得了加速程序分析的空间，但它们也创造了新的法律操纵载体。该裁决开创了律师在司法环境中操作人工智能工具时的责任先例。
该决定还强调，行为责任在于专业人员，而不是客户或人工智能系统。法院重申，人工验证仍然是司法决策过程中的重要步骤，特别是在涉及技术的情况下。
