Pular para o conteúdo
Menu
Mix Vale

Plataforma X bloqueia chatbot Grok para impedir criação de deepfakes com nudez em fotos reais

Jeronimo Santos
Por 7 min de leitura
Compartilhe
Grok
Foto: Grok - Bangla press / Shutterstock.com

A plataforma X anunciou a implementação de novas e rigorosas restrições tecnológicas em seu chatbot Grok. A medida, que entrou em vigor no dia 14 de janeiro, visa bloquear especificamente a edição de fotografias de pessoas reais que resulte na remoção de roupas ou na criação de conteúdo sexualizado. Esta ação é uma resposta direta à crescente onda de denúncias sobre a proliferação de deepfakes, que vitimaram mulheres e menores de idade em diversas partes do mundo.

Publicidade

A atualização foi implementada de forma global e imediata, afetando todos os usuários da ferramenta, sem distinção entre assinantes gratuitos ou pagos. Segundo a equipe de segurança da rede social, a principal motivação é alinhar o funcionamento da inteligência artificial às legislações de proteção de imagem e privacidade vigentes em múltiplos países. Antes da mudança, a ferramenta permitia modificações que facilitavam a criação de montagens não consentidas, gerando uma crise de imagem para a empresa.

A controvérsia escalou rapidamente nas últimas semanas, quando imagens manipuladas começaram a circular em massa dentro da própria plataforma. A facilidade com que o Grok podia ser utilizado para criar conteúdo explícito a partir de fotos comuns gerou forte reação de autoridades governamentais e organizações de defesa dos direitos digitais, que pressionaram a companhia por uma solução definitiva para o problema.

Publicidade
Grok
Grok – Foto: miss.cabul / Shutterstock.com

Como funcionam os novos filtros de segurança

A equipe de desenvolvimento da xAI detalhou que as restrições operam por meio de filtros avançados, programados para identificar e barrar em tempo real qualquer comando que solicite a remoção de vestimentas ou a inserção de elementos de conotação sexual em imagens de indivíduos reais. Esse sistema de detecção atua preventivamente, impedindo que a imagem seja gerada e entregue ao usuário.

Quando uma solicitação viola as novas diretrizes, o Grok recusa automaticamente a operação e informa ao usuário que o pedido não pode ser atendido. A plataforma destacou que o sistema está sob monitoramento constante para identificar e neutralizar eventuais tentativas de burlar as barreiras de proteção, garantindo a eficácia contínua da medida de segurança.

[[MVG_PROTECTED_BLOCK_0]

As atualizações técnicas foram aplicadas de maneira uniforme em todas as regiões e idiomas onde a ferramenta está disponível. A empresa também alertou que usuários que insistirem em submeter comandos proibidos de forma recorrente poderão sofrer sanções, incluindo a limitação ou suspensão do acesso à funcionalidade de geração de imagens.

Para garantir a abrangência da proteção, a plataforma estabeleceu uma lista clara de ações que agora são bloqueadas pelo sistema, incluindo:

Publicidade
  • Pedidos explícitos para remover peças de roupa de fotos de pessoas.
  • Comandos que visam alterar vestimentas para torná-las reveladoras ou transparentes.
  • Tentativas de gerar nudez a partir de imagens onde a pessoa está vestida.
  • Solicitações para inserir indivíduos reais em contextos sexualizados.

Posicionamento oficial da empresa e de Elon Musk

Elon Musk, proprietário da X e fundador da xAI, a empresa por trás do desenvolvimento do Grok, manifestou-se publicamente sobre a polêmica no mesmo dia em que as novas restrições foram anunciadas. Em uma postagem na plataforma, ele declarou que não tinha conhecimento prévio de que imagens explícitas envolvendo menores de idade estivessem sendo geradas pela ferramenta. Musk reforçou que o chatbot foi projetado para recusar automaticamente a criação de qualquer conteúdo ilegal e que seu funcionamento depende de comandos explícitos fornecidos pelos usuários, isentando a ferramenta de autonomia na criação de material abusivo.

Em comunicado oficial, a plataforma X complementou as declarações de seu proprietário, afirmando que quaisquer falhas identificadas em seus mecanismos de proteção foram prontamente corrigidas em atualizações anteriores e que a nova barreira representa um reforço nesse compromisso. A empresa enfatizou sua dedicação em manter a conformidade legal em todos os mercados onde atua. Representantes da xAI também se pronunciaram, garantindo que o aprimoramento dos sistemas de segurança é um processo contínuo para prevenir a recorrência de usos indevidos da tecnologia e proteger a integridade dos usuários.

Repercussão internacional e ações regulatórias

A crise dos deepfakes gerados pelo Grok provocou uma forte reação de órgãos reguladores ao redor do mundo, forçando a plataforma a agir. No Reino Unido, o Ofcom, órgão responsável pela regulação das comunicações, abriu uma investigação formal contra a X para apurar se a empresa cumpriu com suas obrigações legais de remover conteúdo ilegal, conforme previsto na legislação de segurança online do país. O primeiro-ministro britânico, Keir Starmer, afirmou ter recebido garantias diretas da empresa de que medidas rigorosas estavam sendo implementadas. Em uma frente mais dura, governos de nações asiáticas como Indonésia e Malásia optaram por bloquear completamente o acesso ao Grok em seus territórios, citando leis locais rigorosas contra a disseminação de pornografia e conteúdo considerado ofensivo. A Índia também agiu, exigindo que a plataforma removesse milhares de publicações com deepfakes e suspendesse as contas responsáveis pela sua criação, obtendo cooperação da empresa. Esses movimentos coordenados em diferentes continentes ilustram a crescente preocupação global com o potencial de abuso de ferramentas de inteligência artificial e a pressão para que as big techs assumam maior responsabilidade sobre seus produtos.

Incidentes registrados em território brasileiro

No Brasil, o problema ganhou notoriedade após relatos de vítimas virem a público. Um dos casos de maior repercussão envolveu uma mulher que teve suas fotos pessoais, publicadas em seu perfil na rede social, manipuladas para simular nudez e o uso de biquínis, tudo sem seu consentimento. A vítima relatou o profundo desconforto e violação de privacidade ao descobrir a existência das montagens.

Em resposta a esses e outros casos semelhantes, o Instituto Brasileiro de Defesa do Consumidor (Idec) tomou uma medida formal, encaminhando um pedido ao governo federal para que o acesso ao Grok fosse temporariamente suspenso no país. A entidade argumentou que a ferramenta, em seu estado anterior, violava diretamente os direitos de proteção à imagem e à privacidade de cidadãos, com um risco acentuado para crianças e adolescentes.

Mobilização da sociedade civil e pressão sobre big techs

A resposta ao uso indevido do Grok não se limitou a ações governamentais. Uma coalizão internacional, composta por mais de vinte entidades feministas e de defesa dos direitos digitais, organizou uma campanha de pressão direcionada à Apple e ao Google. Em cartas abertas, os grupos solicitaram que as duas gigantes da tecnologia removessem temporariamente o aplicativo da plataforma X de suas lojas oficiais, a App Store e a Google Play.

Organizações de peso, como a UltraViolet e a National Organization for Women, argumentaram que, ao manter o aplicativo disponível, as lojas de aplicativos estavam facilitando o acesso a uma ferramenta comprovadamente utilizada para cometer abuso sexual digital. A petição destacou o grave risco que a funcionalidade representava para milhares de potenciais vítimas, principalmente mulheres e jovens, e instou Apple e Google a revisarem a conformidade da plataforma com suas próprias políticas de conteúdo.

A origem da controvérsia

O Grok incorpora uma poderosa funcionalidade de geração e edição de imagens que utiliza modelos de inteligência artificial de ponta, desenvolvidos pela xAI. A ferramenta foi projetada para permitir que os usuários realizassem criações artísticas e edições criativas em fotografias enviadas ou publicadas na plataforma X. No entanto, essa capacidade tecnológica foi rapidamente cooptada para fins maliciosos.

Evolução das políticas de moderação

Antes de implementar o bloqueio total, a plataforma X havia tentado conter o problema limitando o acesso à ferramenta de edição de imagens apenas para assinantes pagos. A medida, contudo, foi amplamente criticada, com acusações de que a empresa estaria, na prática, monetizando uma funcionalidade que permitia a criação de conteúdo abusivo. A restrição atual, que proíbe completamente a geração de nudez para todos os usuários, representa uma mudança de postura significativa em resposta à pressão pública e regulatória.

Publicidade

Jeronimo Santos é colaborador da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2016: Formação: Marketing

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto