Produzir deepfakes sexuais agora é crime no Reino Unido após nova legislação entrar em vigor

O governo do Reino Unido deu um passo decisivo no combate à violência digital ao colocar em vigor uma nova lei que criminaliza a criação de imagens íntimas deepfake sem o consentimento da pessoa retratada. A medida, anunciada pela ministra da Tecnologia, Liz Kendall, no Parlamento britânico, responde diretamente à crescente preocupação com o uso de ferramentas de inteligência artificial para gerar conteúdo sexualmente explícito e abusivo.
A nova legislação foi acelerada após uma série de polêmicas envolvendo o chatbot Grok, integrado à plataforma X, que permitiu a usuários gerar imagens sexualizadas de figuras públicas e anônimas. A norma torna ilegal não apenas a produção desse tipo de material, mas também visa coibir o fornecimento de softwares desenvolvidos especificamente para essa finalidade, preenchendo uma lacuna legal importante.
A ministra Kendall destacou que essa forma de abuso afeta desproporcionalmente mulheres e meninas, classificando os deepfakes como instrumentos de violência e controle. A decisão de antecipar a aplicação de um dispositivo já previsto no Data (Use and Access) Act, de 2025, sinaliza a urgência do governo em endereçar os riscos associados às novas tecnologias de IA generativa.
Com a lei em vigor, as autoridades esperam criar um forte impedimento para a criação desse conteúdo, agindo na raiz do problema. A medida complementa o já existente Online Safety Act, reforçando a responsabilidade das plataformas digitais em proteger seus usuários de materiais nocivos e ilegais.
O que estabelece a nova legislação britânica
A nova norma legal implementada no Reino Unido é abrangente e específica em seu objetivo de combater os deepfakes sexuais. O ponto central da lei é a criminalização do ato de criar uma imagem íntima de outra pessoa, utilizando inteligência artificial ou qualquer outra tecnologia, sem o seu consentimento explícito. Isso significa que, mesmo que a imagem nunca seja compartilhada ou distribuída, o simples ato de produzi-la já constitui um crime passível de punição. A legislação foi desenhada para eliminar a ambiguidade legal que existia anteriormente, onde o foco penal estava majoritariamente na distribuição de conteúdo íntimo não consensual. Agora, a origem do ciclo de abuso é diretamente atacada. Além da criação individual, a lei também prevê penalidades para quem solicitar a produção desses materiais e, em uma fase posterior, para empresas que desenvolvem e comercializam softwares cuja finalidade principal seja a “nudificação” digital ou a criação de conteúdo explícito falso. A medida fortalece o arcabouço do Online Safety Act, ampliando as obrigações das plataformas de tecnologia, que deverão implementar mecanismos mais robustos para detectar e impedir o uso de suas ferramentas para fins ilícitos, sob risco de pesadas multas e sanções regulatórias.
A polêmica envolvendo o chatbot Grok
A aceleração da lei foi impulsionada por uma controvérsia de grande repercussão envolvendo o Grok, um chatbot de inteligência artificial desenvolvido pela xAI e integrado à plataforma X. Nas últimas semanas, usuários descobriram e exploraram a capacidade da ferramenta de gerar imagens sexualizadas e deepfakes explícitos com simples comandos de texto. A facilidade com que era possível criar cenas falsas, muitas vezes removendo digitalmente as roupas de pessoas em fotografias originais, gerou alarme público e chamou a atenção imediata de legisladores e órgãos reguladores.
Em resposta às críticas iniciais, a gestão da plataforma X implementou uma restrição, tornando a funcionalidade de geração de imagens do Grok acessível apenas para assinantes pagantes. No entanto, o governo britânico considerou a medida completamente insuficiente para mitigar os riscos. A ministra Liz Kendall afirmou publicamente que colocar essa ferramenta perigosa atrás de um acesso pago não resolvia o problema fundamental e não protegia as potenciais vítimas. Essa resposta inadequada da empresa foi um dos fatores determinantes para que o governo agisse com celeridade, aplicando a nova legislação para deixar claro que tanto a criação quanto a facilitação de tal conteúdo não seriam toleradas.
Investigação da Ofcom e a responsabilidade das plataformas
Paralelamente à implementação da lei, a Ofcom, agência reguladora de comunicações do Reino Unido, iniciou uma investigação formal sobre a plataforma X. O inquérito visa determinar se a empresa violou as diretrizes do Online Safety Act ao permitir que sua ferramenta de IA fosse utilizada para a criação de conteúdo abusivo.
O foco da investigação é avaliar se a plataforma tomou as medidas de segurança adequadas e necessárias para proteger os usuários, especialmente no que diz respeito à prevenção da geração de imagens íntimas não consensuais e de material que possa configurar abuso sexual infantil.
A Ofcom possui poderes significativos para aplicar sanções, que podem incluir multas de até 10% do faturamento global da empresa ou a imposição de medidas corretivas obrigatórias. A pressão do governo é para que a investigação seja concluída de forma rápida e transparente.
Este caso é visto como um teste crucial para a eficácia do Online Safety Act na era da IA generativa. O resultado poderá estabelecer um precedente importante sobre o nível de responsabilidade que as plataformas de tecnologia têm sobre as ferramentas de IA que integram em seus serviços.
Medidas para proteção de mulheres e meninas
Durante seu pronunciamento, a ministra Liz Kendall enfatizou repetidamente que a proliferação de deepfakes sexuais representa uma grave forma de violência e abuso, com um impacto desproporcional sobre mulheres e meninas. Ela afirmou que essas imagens falsas não são “um pouco de diversão inofensiva”, mas sim ferramentas usadas para humilhar, controlar e silenciar suas vítimas.
A criminalização da criação desses materiais é parte de uma estratégia mais ampla do governo trabalhista para combater a violência contra mulheres no ambiente digital. A ação legislativa é vista como um passo essencial para garantir que o espaço online seja mais seguro e que as vítimas de abuso digital tenham o respaldo da lei para buscar justiça.
Detalhes sobre os atos criminalizados
A nova lei é específica ao tipificar como crime a criação intencional de uma imagem ou vídeo que aparenta ser íntimo de uma pessoa, sabendo que ela não consentiu com a criação. Isso cobre uma vasta gama de cenários, desde a alteração de uma foto existente até a geração de uma cena completamente nova usando IA.
A legislação também abre caminho para futuras regulamentações que proíbam explicitamente a comercialização e o fornecimento de aplicativos e softwares de “nudificação”. O governo sinalizou que atuará para reprimir empresas que lucram com a facilitação desse tipo de abuso digital.
Essa abordagem preenche uma lacuna crítica, pois anteriormente o foco legal estava no ato de compartilhar a imagem. Ao punir a criação, o sistema de justiça pode intervir antes que o material se espalhe e cause danos irreparáveis à vítima.
Consequências para a indústria de tecnologia e IA
A legislação do Reino Unido envia uma mensagem clara para desenvolvedores de inteligência artificial e empresas de tecnologia em todo o mundo. A norma estabelece que a responsabilidade pela segurança não pode ser uma reflexão tardia, mas sim um componente central no desenvolvimento e na implementação de novas tecnologias generativas.
As empresas agora enfrentam um escrutínio regulatório muito maior e a obrigação legal de incorporar salvaguardas robustas em suas ferramentas para prevenir o uso malicioso. Isso pode incluir filtros mais eficazes, moderação proativa e mecanismos que impeçam a geração de conteúdo nocivo desde o início.
Repercussão no parlamento
A decisão de ativar a lei foi recebida com amplo apoio no Parlamento britânico, com parlamentares de diferentes partidos reconhecendo a urgência de legislar sobre os perigos emergentes da inteligência artificial. O consenso político demonstra a gravidade com que o tema está sendo tratado e fortalece a posição do Reino Unido como um dos líderes na regulação de tecnologias para a proteção dos direitos individuais no ambiente digital.







