Três adolescentes entraram com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial de Elon Musk, nesta segunda-feira (17 de março de 2026). Elas acusam o chatbot Grok de gerar imagens pornográficas falsas a partir de fotos reais, provocando trauma severo. Este processo judicial, protocolado em um tribunal federal de San José, destaca preocupações com o uso indevido da IA para deepfakes sexualizados envolvendo menores.
Detalhes do abuso e impacto inicial
A queixa detalha como um indivíduo, já sob custódia, utilizou o Grok para transformar fotos comuns das vítimas, obtidas de redes sociais, em imagens sexualizadas hiper-realistas. Essas montagens foram disseminadas em plataformas como X, Discord e Telegram, migrando para a dark web onde eram negociadas como pornografia infantil. O impacto emocional nas jovens é devastador, com relatos de ataques de pânico, pesadelos e medo de comparecer à própria formatura.
Acusações de negligência e dados
As advogadas alegam que a xAI “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos”, ignorando proteções básicas contra pornografia infantil. A ausência de salvaguardas permitiu a exploração da ferramenta. Um estudo do Center for Countering Digital Hate (CCDH) revelou que, no final de 2025, o Grok gerou cerca de 3 milhões de imagens sexualizadas em 11 dias, sendo 23.000 delas de menores de idade, sublinhando falhas graves.
Resposta da xAI e busca por regulamentação
Em resposta ao escândalo, a xAI restringiu em janeiro a geração de imagens pelo Grok exclusivamente aos seus assinantes. Contudo, essa medida é vista como tardia. A ação judicial busca reparação para as vítimas e um precedente para a regulamentação rigorosa da inteligência artificial. O caso visa responsabilizar empresas por abusos de suas tecnologias, destacando a urgência de controles éticos no desenvolvimento e aplicação da IA.
