Pular para o conteúdo
Menu
Mix Vale

Young people sue Elon Musk’s xAI in the US for Grok chatbot generating fake intimate images

Bruna
Por 2 min de leitura
Compartilhe
Grok, X, twitter
Foto: Grok, X - Primakov/Shutterstock.com

Three teenagers filed a class action lawsuit in the Estados Unidos against xAI, an artificial intelligence company from Elon Musk, this Monday (March 17, 2026). Elas accuse the chatbot Grok of generating fake pornographic images from real photos, causing severe trauma. Este lawsuit, filed in federal court in San José, highlights concerns about the misuse of AI for sexualized deepfakes involving minors.

Publicidade

Details of the abuse and initial impact

The complaint details how an individual, already in custody, used Grok to transform ordinary photos of victims, obtained from social media, into hyper-realistic sexualized images. Essas montages were disseminated on platforms such as X, Discord and Telegram, migrating to the dark web where they were traded as child pornography. The emotional impact on young women is devastating, with reports of panic attacks, nightmares and fear of attending their own graduation.

Negligence accusations and data

The lawyers allege that xAI “deliberately designed Grok to produce sexually explicit content for profit,” ignoring basic protections against child pornography. The absence of safeguards allowed the tool to be exploited. A study by Center for Countering Digital Hate (CCDH) revealed that, at the end of 2025, Grok generated around 3 million sexualized images in 11 days, 23,000 of which were of minors, highlighting serious flaws.

Publicidade

xAI response and search for regulation

In response to the scandal, xAI in January restricted Grok’s generation of images exclusively to its subscribers. Contudo, this measure is seen as late. The lawsuit seeks redress for victims and a precedent for strict regulation of artificial intelligence. The case aims to hold companies accountable for abuses of their technologies, highlighting the urgency of ethical controls in the development and application of AI.

Publicidade

Bruna Santos é colaboradora da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve e colabora para o portal desde 2024. Formação: Professora.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto