Um homem de 36 anos foi detido no Espírito Santo sob suspeita de elaborar um plano para assassinar o próprio filho, de 8 anos. O objetivo seria evitar o pagamento de pensão alimentícia à ex-companheira. As investigações tiveram início após a OpenAI, criadora do ChatGPT, detectar mensagens do usuário detalhando o esquema criminoso e reportar os dados às autoridades americanas.
O FBI, por sua vez, encaminhou as informações ao Ministério da Justiça brasileiro, que as remeteu à Polícia Civil do Espírito Santo. O mandado de prisão foi cumprido em 19 de junho, na área rural de São Gabriel da Palha, localizada no Noroeste do estado. A Polícia Civil informou que, nas interações com a inteligência artificial, o suspeito mencionou a intenção de contratar um pistoleiro, e fez referência a armas, cordas e substâncias venenosas. Ele também teria manifestado desejo de realizar ataques contra instituições como escolas, igrejas e órgãos públicos.
O indivíduo foi alvo de prisão preventiva e de busca e apreensão, com o inquérito policial ainda em andamento.
O episódio traz à tona diversas questões jurídicas complexas, como a natureza sigilosa das conversas com inteligências artificiais, a possibilidade de utilizá-las como evidência legal e se o mero planejamento de um delito pode acarretar em responsabilização criminal.
Para lançar luz sobre esses e outros aspectos, o portal ouviu o especialista em Direito Digital, Luiz Augusto Filizzola D’Urso, e a advogada criminalista Maíra Beauchamp Salomi.
Avaliação jurídica sobre o planejamento de um crime e a responsabilidade penal
A criminalista Maíra Salomi esclarece que, como regra geral, o simples planejamento de um ato criminoso não gera responsabilidade penal.
Ela detalha que o processo de um crime, conhecido como *iter criminis*, é dividido em quatro etapas: a cogitação, os atos preparatórios, a execução e a consumação do delito.
A advogada explica que a cogitação, que consiste na idealização mental do crime, não é de interesse para o Direito Penal. Em seguida vêm as ações preparatórias, como a aquisição de ferramentas, a análise do local ou a formulação da melhor maneira de cometer o ato. Estas condutas, via de regra, também não são passíveis de punição, exceto quando há uma previsão legal específica.
A imputação penal ocorre apenas quando o agente ultrapassa essa fase e começa a realizar a conduta criminosa descrita na lei.
No caso específico de um homicídio, por exemplo, a responsabilização se inicia no momento em que se dá a execução do verbo “matar”, indo além do simples planejamento ou preparação da morte da vítima.
Por essa razão, a criminalista afirma que o mero planejamento de um crime raramente terá relevância no âmbito penal. Ela ainda pontua que o Código Penal estabelece que o ajuste, a determinação, a instigação e o auxílio a um crime só são puníveis se o delito alcançar, no mínimo, a fase de tentativa.
Contudo, D’Urso destaca que, neste caso específico, essa será uma das questões cruciais a serem examinadas pelo Judiciário.
Conforme o especialista, caberá ao magistrado determinar se as interações com a inteligência artificial se mantiveram no campo dos atos preparatórios ou se já representavam o início da execução do crime, cenário em que poderia surgir a responsabilidade penal.
A validade das conversas com a inteligência artificial como prova em processos
Maíra Salomi afirma que as conversas com ferramentas de inteligência artificial podem, sim, ser usadas como prova, desde que sejam cumpridos os critérios de admissibilidade, autenticidade e confiabilidade inerentes à prova digital.
A advogada ressalta que, como qualquer tipo de evidência eletrônica, as conversas são suscetíveis a manipulações ou edições, tornando essencial a preservação da cadeia de custódia.
Será preciso também verificar a origem da prova, a autenticidade das mensagens, quem de fato estava utilizando a ferramenta no momento das conversas e se todo o material foi obtido de forma lícita.
Caso sejam produzidas e validadas sob o crivo do contraditório, essas interações têm o potencial de, inclusive, fundamentar uma condenação criminal.
A criminalista, no entanto, enfatiza que um desafio significativo permanece: a comprovação da verdadeira intenção do usuário ao interagir com a inteligência artificial naqueles diálogos.
D’Urso adiciona que as conversas com a inteligência artificial podem ter repercussões que vão além da esfera criminal.
Na análise do especialista, mesmo que o conteúdo não seja suficiente para configurar um delito, ele pode embasar outras decisões judiciais, como medidas de proteção à criança, incluindo questões de guarda, sempre que o Judiciário identificar um risco concreto demonstrado pelas conversas.
Direitos do ChatGPT para compartilhar interações com autoridades
De acordo com D’Urso, a OpenAI pode sim compartilhar as conversas dos usuários com as autoridades, desde que tais ações estejam em conformidade com as condições estabelecidas nos termos de uso da própria plataforma.
O advogado explica que o ChatGPT assegura a privacidade das conversas perante terceiros, mas também prevê circunstâncias específicas em que a OpenAI pode ter acesso a esse conteúdo. Entre essas condições estão o aprimoramento dos modelos de inteligência artificial e situações que representem risco à vida ou à integridade física de qualquer pessoa.
Nesses cenários, ele afirma, a empresa tem a prerrogativa de encaminhar as informações aos órgãos competentes para salvaguardar um bem jurídico considerado superior: a vida.
A obrigatoriedade da OpenAI em comunicar o caso às autoridades
Na avaliação de D’Urso, não havia uma obrigatoriedade legal para a OpenAI comunicar o caso às autoridades.
Ele explica que, na legislação brasileira atual, não existe uma norma que imponha às empresas desenvolvedoras de inteligência artificial a obrigação de alertar as autoridades ao identificar riscos à vida ou à saúde de seus usuários ou de terceiros.
Essa decisão, portanto, fica a cargo da política interna de cada empresa, conforme seus termos de uso.
No que se refere à OpenAI, o advogado esclarece que a empresa optou por incluir essa possibilidade contratualmente, uma escolha que ele considera apropriada dada a gravidade das situações que podem surgir.
Análise do impacto da tese do STF sobre a responsabilidade de plataformas digitais nas IAs
Outro ponto de discussão gerado pelo caso envolve a recente tese fixada pelo Supremo Tribunal Federal, que ampliou as circunstâncias em que provedores de aplicações de internet podem ser responsabilizados por conteúdos ilícitos publicados por terceiros, flexibilizando a proteção oferecida anteriormente pelo artigo 19 do Marco Civil da Internet.
Contudo, D’Urso ressalta que esse entendimento, atualmente, não se aplica diretamente às inteligências artificiais conversacionais, como o ChatGPT.
Isso se deve ao fato de que a decisão do STF foi elaborada com base em plataformas que hospedam e divulgam conteúdos criados por usuários para outros usuários, uma dinâmica que difere das ferramentas de IA generativa.
O especialista, no entanto, avalia que essa realidade pode mudar no futuro. À medida que as inteligências artificiais expandirem suas funcionalidades e passarem a assumir papéis mais similares aos das plataformas digitais tradicionais, os debates sobre responsabilidade civil na internet poderão, de fato, englobar também esse tipo de serviço.