A plataforma X confirmou a implementação de novas barreiras tecnológicas em seu chatbot Grok, projetadas especificamente para impedir a edição de fotografias de pessoas reais com o objetivo de remover ou alterar suas roupas. A medida, anunciada em 14 de janeiro de 2026, é uma resposta direta à crescente onda de denúncias sobre a criação e disseminação de deepfakes sexualizados, que afetaram tanto adultos quanto menores de idade.
A decisão foi motivada pela utilização indevida da ferramenta de inteligência artificial, que permitia a usuários mal-intencionados gerar montagens não consentidas com conteúdo de nudez ou roupas sugestivas. As restrições foram aplicadas de forma imediata e global, afetando todos os usuários da rede social, independentemente do tipo de assinatura.
A polêmica escalou nas últimas semanas após a circulação de diversas imagens manipuladas, gerando forte reação de autoridades e organizações de defesa dos direitos digitais em vários países. A empresa destacou que a atualização visa alinhar o funcionamento da ferramenta às legislações vigentes e proteger a integridade dos indivíduos na plataforma.
Antes da atualização, a funcionalidade de edição de imagens integrada ao Grok oferecia ampla liberdade, o que foi explorado para a criação de conteúdo prejudicial. A nova política representa um esforço da companhia para conter os abusos e restaurar a segurança no ambiente digital que administra.
Como funcionam os novos filtros de segurança
A equipe de segurança da X detalhou que a nova camada de proteção opera por meio de filtros avançados, programados para identificar e bloquear em tempo real qualquer comando que solicite a remoção de vestimentas ou a inserção de elementos de conotação sexual em imagens de pessoas. O sistema foi projetado para analisar a intenção por trás dos pedidos dos usuários antes que qualquer imagem seja gerada, recusando automaticamente as solicitações que violem as novas diretrizes. A empresa afirmou que o monitoramento é contínuo para identificar e neutralizar eventuais tentativas de contornar as barreiras de segurança. Além do bloqueio da operação, os usuários que insistirem em submeter comandos proibidos poderão enfrentar sanções, como a limitação temporária ou permanente do acesso à ferramenta de inteligência artificial. A atualização foi distribuída globalmente para garantir que as mesmas regras de proteção sejam aplicadas em todos os idiomas e regiões onde a plataforma opera, reforçando um padrão unificado de segurança.
O posicionamento oficial da empresa e de Elon Musk
Elon Musk, proprietário da X e fundador da xAI, empresa responsável pelo desenvolvimento do Grok, manifestou-se publicamente sobre a controvérsia. Ele declarou não ter conhecimento prévio sobre a geração de imagens explícitas envolvendo menores de idade pela ferramenta e ressaltou que o chatbot apenas executa comandos diretos dos usuários, possuindo mecanismos para recusar automaticamente a criação de conteúdo considerado ilegal. Musk enfatizou o compromisso da empresa em combater o uso indevido da tecnologia.
Em comunicado oficial, a plataforma X complementou as declarações, informando que falhas pontuais identificadas em barreiras de proteção anteriores já haviam sido corrigidas em atualizações prévias. A empresa reiterou seu compromisso com a conformidade legal em todos os mercados e destacou que melhorias contínuas estão sendo implementadas pela equipe da xAI para evitar a recorrência de incidentes. A prioridade, segundo a nota, é garantir um ambiente seguro sem sacrificar a inovação tecnológica.
Investigações e bloqueios ao redor do mundo
No Reino Unido, o órgão regulador de comunicações, Ofcom, iniciou uma investigação formal contra a X. A apuração busca determinar se a plataforma cumpriu suas obrigações legais de remover conteúdo ilegal, conforme estipulado pela legislação de segurança online do país.
No Brasil, o Instituto Brasileiro de Defesa do Consumidor (Idec) solicitou formalmente ao governo a suspensão temporária do acesso ao Grok. A entidade argumentou que a ferramenta representava uma violação direta aos direitos de imagem e privacidade, especialmente de crianças e adolescentes.
Em uma ação mais drástica, governos da Indonésia e da Malásia determinaram o bloqueio total do acesso ao Grok em seus territórios. A decisão foi baseada em leis locais rigorosas contra a disseminação de pornografia e conteúdo considerado ofensivo.
A mobilização da sociedade civil organizada
Uma coalizão internacional, composta por mais de 20 organizações feministas e de defesa dos direitos digitais, intensificou a pressão sobre as gigantes da tecnologia.
As entidades enviaram cartas abertas à Apple e ao Google, solicitando a remoção temporária do aplicativo X de suas respectivas lojas de aplicativos.
O principal argumento apresentado foi que, ao manterem o aplicativo disponível, as empresas estariam facilitando o acesso a uma ferramenta utilizada para cometer abuso sexual digital.
Entre as signatárias das cartas estavam grupos de grande expressão, como a UltraViolet e a National Organization for Women, que alertaram para o risco iminente a milhares de vítimas em potencial.
Origem do problema na ferramenta de imagem
A funcionalidade de edição do Grok foi desenvolvida pela xAI para permitir criações visuais criativas a partir de comandos de texto. No entanto, sua capacidade de alterar fotos publicadas na plataforma foi rapidamente explorada para fins maliciosos.
Pesquisas independentes realizadas antes da implementação do bloqueio revelaram um volume significativo de solicitações para gerar nudez ou inserir roupas mínimas em imagens reais, expondo a vulnerabilidade do sistema a abusos.
A evolução das medidas de contenção
Anteriormente, a plataforma havia tentado conter o problema limitando o acesso à edição de imagens apenas para assinantes pagos. A medida foi amplamente criticada, pois foi interpretada como uma forma de monetizar uma funcionalidade que apresentava riscos claros à segurança dos usuários. A restrição atual, que proíbe completamente esse tipo de edição para todos, representa uma mudança de estratégia mais alinhada às exigências de segurança.
Contexto legal e responsabilidade da plataforma
A X reafirmou sua política de tolerância zero contra qualquer material de abuso sexual infantil, garantindo a remoção imediata de conteúdo e o banimento permanente de contas infratoras. A empresa também coopera ativamente com autoridades policiais em investigações relacionadas a crimes digitais.
Embora a responsabilidade primária pelo uso indevido da ferramenta recaia sobre os usuários que emitem os comandos proibidos, a plataforma reconhece seu dever de implementar salvaguardas robustas para prevenir que sua tecnologia seja usada para causar danos, equilibrando inovação e proteção ao usuário.
