Agentes de IA na Justiça correm risco de manipulação para expor processos sigilosos e senhas, diz CNJ

Agentes de inteligência artificial (IA) utilizados na rotina dos tribunais brasileiros correm o risco de ser manipulados por agentes externos para acessar senhas e vazar informações sigilosas da Justiça. O alerta foi feito pelo juiz federal George Marmelstein, integrante do Comitê Nacional de Inteligência Artificial do Judiciário do Conselho Nacional de Justiça (CNJ) e secretário-geral da Escola Nacional de Formação e Aperfeiçoamento de Magistrados (Enfam), em declaração publicada em 14 de novembro de 2026. Segundo o magistrado, o CNJ já estuda essas falhas de segurança cibernética diante do avanço de ferramentas que executam tarefas de forma autônoma, embora ainda não conheça casos comprovados desse tipo de ataque nos tribunais do país.
A preocupação atual representa uma evolução de fraudes já detectadas no sistema judiciário por meio da técnica conhecida como prompt injection, ou injeção de comandos. Nesse método, instruções invisíveis ao olho humano, como textos escritos em letras brancas sobre fundo branco ou códigos embutidos em arquivos, são escondidas em documentos processuais para enganar a IA usada pelos juízes. Episódios recentes identificados pelo Supremo Tribunal Federal (STF) e pelo Superior Tribunal de Justiça (STJ) já resultaram em multas de R$ 5 mil, R$ 20 mil e 10% do valor da causa contra responsáveis por tentar manipular o resultado de análises judiciais.
STJ confirmou 40 casos de comandos ocultos em quase 6 milhões de peças
O monitoramento realizado pelo Superior Tribunal de Justiça dimensiona a frequência dessas tentativas de interferência nos sistemas eletrônicos. Durante um evento realizado na quarta-feira (11), o ministro Luis Felipe Salomão, presidente do STJ, divulgou o balanço da varredura feita pela corte em quase 6 milhões de peças processuais. O sistema apontou 116 registros suspeitos e, após verificação humana, confirmou 40 casos reais de manipulação, o que representa uma ocorrência a cada 150.000 documentos analisados.
Salomão informou ainda que o próximo passo do STJ em parceria com o CNJ será mapear as chamadas ondas de litigiosidade. A meta é identificar aumentos repentinos no volume de ações sobre temas específicos nos tribunais para adotar medidas administrativas antes que o fluxo de processos saia de controle.

Como os agentes de IA ampliam a vulnerabilidade nos tribunais
Na interação tradicional com a inteligência artificial generativa, o usuário digita um pedido e recebe um texto ou resumo, cabendo a uma pessoa revisar o conteúdo antes de tomar qualquer atitude. Com os agentes de IA, o funcionamento muda porque o sistema recebe permissões para agir diretamente em nome do servidor ou do juiz, abrindo arquivos, navegando na rede, enviando e-mails e rodando programas sem aprovação humana a cada etapa.
Marmelstein explicou que, ao executar códigos e apertar botões automaticamente, um agente encarregado de organizar processos pode obedecer a um comando malicioso escondido numa petição e enviar a lista de ações sob segredo de justiça para um endereço externo. O especialista em cibersegurança Matheus Vasconcelos destaca que esses ataques exploram a incapacidade das ferramentas de diferenciar uma ordem oficial do magistrado de uma instrução inserida por terceiros no meio do documento.
Para conter essas falhas, especialistas apontam medidas técnicas e administrativas necessárias nos sistemas judiciais:
- Restrição de acesso: limitar as permissões de cada agente apenas aos documentos indispensáveis para aquela tarefa específica, impedindo o envio de mensagens externas ou a leitura de outros processos, conforme defende Matheus Vasconcelos.
- Supervisão proporcional: exigir aprovação humana como barreira final de segurança de acordo com a gravidade da ação e a sensibilidade dos dados envolvidos, medida apontada pelo especialista em Tecnologia e Inovação Arthur Igreja.
- Proteção de ambientes: reforçar a segurança dos acessos digitais para evitar páginas e formulários falsos que imitam sistemas oficiais para capturar credenciais, alerta o professor João Ataíde, fundador da WaveJuris.AI.
- Arquitetura segura: blindar tanto plataformas comerciais quanto sistemas próprios desenvolvidos pelos tribunais, já que a vulnerabilidade depende das permissões e integrações do sistema, observa o advogado e especialista em Direito Digital Daniel Ângelo Luiz da Silva.
Expansão da tecnologia expõe lacunas de fiscalização e transparência
O avanço das ferramentas digitais ocorre em ritmo acelerado nos órgãos judiciais brasileiros. Um levantamento do CNJ referente a 2024 identificou 178 projetos de inteligência artificial em funcionamento e mostrou que 45,8% dos tribunais e conselhos participantes já utilizavam IA generativa. Na mesma pesquisa, 96% dos magistrados e 94% dos demais servidores declararam usar o ChatGPT, mas 83% dos funcionários afirmaram não informar quando recorriam à ferramenta no trabalho.
Para enfrentar os riscos de ataques adversariais, o comitê do CNJ aprovou em maio de 2026 o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário (PROSEG-IA) e, em junho de 2026, publicou orientações específicas contra comandos ocultos. As diretrizes complementam a resolução aprovada em 2025, que proíbe delegar à máquina o julgamento do mérito ou a definição de penas, exigindo supervisão humana.
Mesmo com as normas em vigor, a fiscalização enfrenta obstáculos práticos. Um relatório publicado em 2026 pela FGV Direito SP avaliou que as regras atuais ainda carecem de detalhamento técnico, padrões mínimos de auditoria e mecanismos de controle. O próprio juiz George Marmelstein reconheceu que as corregedorias dos tribunais ainda estão adaptando suas inspeções para acompanhar o uso individual das ferramentas pelos magistrados, enquanto o ministro Luis Felipe Salomão apontou a dificuldade de controlar o uso de aplicativos instalados em celulares e computadores pessoais.
A professora Ana Frazão, da Faculdade de Direito da Universidade de Brasília (UnB), alerta ainda para o risco de desequilíbrio processual caso a disputa judicial passe a depender de quem possui tecnologia mais avançada para influenciar os sistemas, criticando também a falta de proibição ao uso de plataformas comerciais privadas por possíveis conflitos de interesse. Na mesma linha de cobrança por transparência, a presidente da Associação dos Advogados de São Paulo (AASP), Paula Lima Hyppolito Oliveira, e os advogados Bianca Mollicone, sócia do escritório Pessoa & Pessoa Advogados, e Olavo Hamilton, professor da Universidade do Estado do Rio Grande do Norte (Uern), defendem que as partes tenham acesso claro sobre como a tecnologia foi empregada para poder contestar eventuais falhas ou omissões nas decisões.






