Superior Tribunal de Justiça abre inquérito por fraude de IA em processos judiciais

O Superior Tribunal de Justiça abriu investigação formal para apurar tentativas de manipulação da inteligência artificial do tribunal através de técnicas sofisticadas de fraude. A determinação partiu do presidente da Corte, ministro Herman Benjamin, após técnicos identificarem petições contendo prompt injection — um método que força sistemas de IA a ignorar regras de análise para favorecer uma das partes do processo.
A suspeita recai sobre advogados e escritórios de advocacia que teriam utilizado comandos maliciosos para enganar o STJ Logos, sistema de IA generativa da instituição. Para investigar o caso, foram abertos um inquérito policial e um procedimento administrativo interno.
Técnica de fraude direcionada ao sistema de IA
O prompt injection funciona através da inserção de instruções maliciosas camufladas dentro de uma petição ou recurso. O objetivo é fazer com que o modelo de inteligência artificial ignore seus parâmetros originais e execute ações não autorizadas. No contexto do tribunal, isso significaria alterar análises processuais para beneficiar indevidamente um litigante.
O ministro Herman Benjamin explicou que o STJ Logos foi desenvolvido com salvaguardas específicas para impedir esse tipo de artimanha. Mesmo assim, técnicos conseguiram identificar múltiplas tentativas de contorno dessas proteções. A Corte agora mapeia todas as ocorrências documentadas para estabelecer responsabilidades e aplicar sanções aos envolvidos.

Investigações em paralelo
Os procedimentos abertos englobam:
- Inquérito policial para apuração de crime de fraude processual
- Procedimento administrativo interno para responsabilização funcional
- Mapeamento sistemático de todas as tentativas registradas no sistema
- Análise de padrões de comportamento para identificar autores
Impacto e segurança institucional
A descoberta das tentativas de fraude reforça a urgência de fortalecer mecanismos de proteção em sistemas de IA utilizados pelo Poder Judiciário. Processos judiciais dependem fundamentalmente de análise objetiva e imparcial dos casos, e qualquer comprometimento dessa integridade representa uma ameaça ao acesso igualitário à justiça.
O tribunal reafirmou seu compromisso com a segurança digital e a confiabilidade de suas ferramentas tecnológicas. Além das investigações em curso, a instituição está revisando protocolos de auditoria e controle de acesso ao sistema de IA.
A identificação dessas fraudes ocorre em momento em que tribunais brasileiros expandem o uso de inteligência artificial para análise de recursos, triagem de processos e apoio a decisões judiciais. O incidente demonstra a necessidade de vigilância contínua sobre essas tecnologias.






