Pular para o conteúdo
Menu
Mix Vale

Inteligência artificial de Elon Musk gera crise com 3 milhões de deepfakes íntimos criados em poucos dias

Jeronimo Santos
Por 6 min de leitura
Compartilhe
Grok, Elon Musk
Foto: Grok, Elon Musk - miss.cabul/ Shutterstock.com

Uma investigação do Centro de Combate ao Ódio Digital (CCDH) revelou que o chatbot Grok, uma criação da empresa xAI de Elon Musk, foi utilizado para gerar aproximadamente três milhões de imagens íntimas falsas em um período de apenas onze dias. A ferramenta, integrada à rede social X, expôs a vulnerabilidade de mulheres e menores de idade a tecnologias de inteligência artificial generativa, capazes de manipular fotografias com um nível alarmante de realismo.

Publicidade

A escala da produção de conteúdo explícito sugere uma operação industrial de abuso digital e desinformação visual. Análises técnicas indicam que o chatbot chegou a processar comandos para a criação de 190 imagens por minuto. O relatório do CCDH também identificou que, entre o material gerado, ao menos 23 mil imagens simulavam abuso sexual de menores, o que intensificou a pressão de órgãos reguladores e defensores dos direitos humanos em todo o mundo.

A tecnologia permitia que usuários alterassem fotos de terceiros com comandos de texto simples, como remover roupas ou mudar o contexto de imagens públicas. Essa facilidade de uso resultou em uma onda de deepfakes na internet, afetando tanto pessoas anônimas quanto figuras públicas. A ausência de filtros de segurança eficazes na nova função de edição de imagens da xAI é considerada a principal causa para a proliferação desse tipo de conteúdo nocivo.

Publicidade
Grok
Grok – Foto: miss.cabul / Shutterstock.com

Figuras públicas e anônimos entre as vítimas

A disseminação de montagens degradantes envolvendo celebridades e líderes políticas ampliou o debate sobre a urgência de uma regulamentação mais rigorosa para empresas de tecnologia que desenvolvem inteligência artificial. Entre as personalidades afetadas estão as cantoras Taylor Swift e Nicki Minaj, a atriz Selena Gomez, a ex-vice-presidente dos Estados Unidos, Kamala Harris, e a vice-primeira-ministra sueca, Ebba Busch, todas com suas imagens manipuladas sem consentimento.

Além das figuras públicas, vítimas anônimas relataram o trauma de descobrir suas fotos pessoais, retiradas de redes sociais, sendo usadas para criar conteúdos simulando nudez ou trajes de banho. A chamada “trend do biquíni” se espalhou rapidamente pela plataforma, gerando um sentimento de violação de privacidade e humilhação. A natureza global da ferramenta dificultou o controle da disseminação das imagens, que continuam a circular em fóruns e grupos privados.

[[MVG_PROTECTED_BLOCK_0]

Diante da situação, Imran Ahmed, diretor-executivo do Centro de Combate ao Ódio Digital, descreveu a plataforma de Elon Musk como uma infraestrutura para a produção de material de abuso. Especialistas em segurança digital apontam a falta de mecanismos de proteção como uma negligência grave da xAI, dado o potencial destrutivo de imagens geradas por computador que são praticamente indistinguíveis da realidade.

Resposta regulatória e proibições internacionais

A rápida proliferação dos deepfakes provocou uma reação imediata de governos ao redor do mundo, com vários países optando por restringir ou banir o acesso à ferramenta. Nações como Indonésia, Malásia e Filipinas foram as primeiras a implementar bloqueios oficiais ao Grok, justificando a medida como necessária para a proteção da moral pública e da segurança de mulheres e crianças. Na Europa, a pressão é liderada por França e Reino Unido, que exigem mais transparência e a implementação de filtros de segurança eficazes.

Publicidade

Nos Estados Unidos, o estado da Califórnia abriu um inquérito para investigar a responsabilidade da xAI na facilitação de crimes cibernéticos e na produção de material explícito. A investigação busca determinar se houve omissão deliberada na configuração dos algoritmos de segurança para favorecer o engajamento na rede social em detrimento da proteção dos usuários. Agências policiais internacionais também foram acionadas para rastrear os focos de distribuição das imagens envolvendo menores.

Posição da xAI e mudanças na plataforma

Pressionada pela repercussão negativa e pela ameaça de sanções, a rede social X anunciou alterações em suas políticas de uso. A empresa declarou que passaria a bloquear a geração de imagens sexualizadas em jurisdições onde a prática é considerada crime, mas não especificou como essa filtragem geográfica seria implementada. Críticos consideram a medida insuficiente, pois não remove o conteúdo já existente e pode ser contornada por usuários que utilizam ferramentas para mascarar sua localização.

A comunicação oficial da xAI adotou um tom de confronto com a imprensa. Ao ser questionada sobre o relatório do CCDH, a empresa limitou-se a enviar respostas automáticas que desqualificavam as informações como inverídicas, sem apresentar dados técnicos para refutar as conclusões. Essa postura defensiva aumentou o atrito com os reguladores governamentais, que interpretam a atitude como uma falta de compromisso com a mitigação dos danos causados pela sua própria tecnologia.

Especialistas em ética digital destacam que o problema vai além da criação das imagens, abrangendo também a facilidade de sua distribuição. A integração do chatbot Grok diretamente na interface de publicações da plataforma X potencializa o impacto viral dos deepfakes, tornando a denúncia e a remoção mais lentas que a propagação.

Dilemas legais e o futuro da regulação de IA

O caso Grok evidencia a defasagem da legislação atual frente à rápida evolução tecnológica, pressionando legisladores a criarem mecanismos de controle mais ágeis. O debate jurídico concentra-se agora na responsabilidade civil e criminal das plataformas que fornecem a tecnologia para a criação de materiais ilícitos. Discute-se se as empresas podem ser consideradas cúmplices quando falham em implementar salvaguardas básicas, que já são padrão em outras ferramentas de IA concorrentes.

A indústria de tecnologia está sendo pressionada a desenvolver “marcas d’água” digitais que identifiquem de forma automática qualquer imagem produzida por inteligência artificial. Essa medida facilitaria a detecção e remoção imediata de conteúdos que violam as diretrizes de segurança, protegendo as vítimas antes que as imagens se tornem virais. O equilíbrio entre inovação e proteção de direitos fundamentais tornou-se o principal desafio para gestores e governantes.

Cooperação global e a segurança no ciberespaço

A cooperação internacional para combater crimes facilitados por IA tornou-se uma prioridade na agenda de segurança cibernética de diferentes blocos econômicos. Grupos de trabalho foram criados para estabelecer protocolos comuns que permitam a desativação rápida de servidores que hospedam ferramentas de criação de deepfakes sem moderação. O objetivo é criar um ambiente digital onde a tecnologia sirva ao progresso sem se tornar um instrumento de opressão.

Estatísticas mostram que a maioria das vítimas de deepfakes sexualizados são mulheres, o que evidencia o uso misógino da tecnologia. Organizações de defesa dos direitos das mulheres defendem que o desenvolvimento de IA inclua auditorias de segurança externas obrigatórias antes do lançamento de qualquer função de edição de imagem. A longo prazo, a educação digital e a conscientização sobre a facilidade de forjar conteúdo visual são vistas como cruciais para mitigar os riscos associados à IA generativa.

Publicidade

Jeronimo Santos é colaborador da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2016: Formação: Marketing

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto