Pular para o conteúdo
Menu
Mix Vale

Produzir deepfakes sexuais agora é crime no Reino Unido após nova legislação entrar em vigor

Jeronimo Santos
Por 7 min de leitura
Compartilhe
Martelo de julgamento
Foto: Martelo de julgamento - Chokniti-Studio/shutterstock.com

O governo do Reino Unido deu um passo decisivo no combate à violência digital ao colocar em vigor uma nova lei que criminaliza a criação de imagens íntimas deepfake sem o consentimento da pessoa retratada. A medida, anunciada pela ministra da Tecnologia, Liz Kendall, no Parlamento britânico, responde diretamente à crescente preocupação com o uso de ferramentas de inteligência artificial para gerar conteúdo sexualmente explícito e abusivo.

Publicidade

A nova legislação foi acelerada após uma série de polêmicas envolvendo o chatbot Grok, integrado à plataforma X, que permitiu a usuários gerar imagens sexualizadas de figuras públicas e anônimas. A norma torna ilegal não apenas a produção desse tipo de material, mas também visa coibir o fornecimento de softwares desenvolvidos especificamente para essa finalidade, preenchendo uma lacuna legal importante.

A ministra Kendall destacou que essa forma de abuso afeta desproporcionalmente mulheres e meninas, classificando os deepfakes como instrumentos de violência e controle. A decisão de antecipar a aplicação de um dispositivo já previsto no Data (Use and Access) Act, de 2025, sinaliza a urgência do governo em endereçar os riscos associados às novas tecnologias de IA generativa.

Publicidade
Conceito jurídico, escalas de justiça e martelo do juiz
Conceito jurídico, escalas de justiça e martelo do juiz – Foto: Alexander Sikov/ Istockphoto.com

Com a lei em vigor, as autoridades esperam criar um forte impedimento para a criação desse conteúdo, agindo na raiz do problema. A medida complementa o já existente Online Safety Act, reforçando a responsabilidade das plataformas digitais em proteger seus usuários de materiais nocivos e ilegais.

O que estabelece a nova legislação britânica

A nova norma legal implementada no Reino Unido é abrangente e específica em seu objetivo de combater os deepfakes sexuais. O ponto central da lei é a criminalização do ato de criar uma imagem íntima de outra pessoa, utilizando inteligência artificial ou qualquer outra tecnologia, sem o seu consentimento explícito. Isso significa que, mesmo que a imagem nunca seja compartilhada ou distribuída, o simples ato de produzi-la já constitui um crime passível de punição. A legislação foi desenhada para eliminar a ambiguidade legal que existia anteriormente, onde o foco penal estava majoritariamente na distribuição de conteúdo íntimo não consensual. Agora, a origem do ciclo de abuso é diretamente atacada. Além da criação individual, a lei também prevê penalidades para quem solicitar a produção desses materiais e, em uma fase posterior, para empresas que desenvolvem e comercializam softwares cuja finalidade principal seja a “nudificação” digital ou a criação de conteúdo explícito falso. A medida fortalece o arcabouço do Online Safety Act, ampliando as obrigações das plataformas de tecnologia, que deverão implementar mecanismos mais robustos para detectar e impedir o uso de suas ferramentas para fins ilícitos, sob risco de pesadas multas e sanções regulatórias.

[[MVG_PROTECTED_BLOCK_0]

A polêmica envolvendo o chatbot Grok

A aceleração da lei foi impulsionada por uma controvérsia de grande repercussão envolvendo o Grok, um chatbot de inteligência artificial desenvolvido pela xAI e integrado à plataforma X. Nas últimas semanas, usuários descobriram e exploraram a capacidade da ferramenta de gerar imagens sexualizadas e deepfakes explícitos com simples comandos de texto. A facilidade com que era possível criar cenas falsas, muitas vezes removendo digitalmente as roupas de pessoas em fotografias originais, gerou alarme público e chamou a atenção imediata de legisladores e órgãos reguladores.

Em resposta às críticas iniciais, a gestão da plataforma X implementou uma restrição, tornando a funcionalidade de geração de imagens do Grok acessível apenas para assinantes pagantes. No entanto, o governo britânico considerou a medida completamente insuficiente para mitigar os riscos. A ministra Liz Kendall afirmou publicamente que colocar essa ferramenta perigosa atrás de um acesso pago não resolvia o problema fundamental e não protegia as potenciais vítimas. Essa resposta inadequada da empresa foi um dos fatores determinantes para que o governo agisse com celeridade, aplicando a nova legislação para deixar claro que tanto a criação quanto a facilitação de tal conteúdo não seriam toleradas.

Publicidade

Investigação da Ofcom e a responsabilidade das plataformas

Paralelamente à implementação da lei, a Ofcom, agência reguladora de comunicações do Reino Unido, iniciou uma investigação formal sobre a plataforma X. O inquérito visa determinar se a empresa violou as diretrizes do Online Safety Act ao permitir que sua ferramenta de IA fosse utilizada para a criação de conteúdo abusivo.

O foco da investigação é avaliar se a plataforma tomou as medidas de segurança adequadas e necessárias para proteger os usuários, especialmente no que diz respeito à prevenção da geração de imagens íntimas não consensuais e de material que possa configurar abuso sexual infantil.

A Ofcom possui poderes significativos para aplicar sanções, que podem incluir multas de até 10% do faturamento global da empresa ou a imposição de medidas corretivas obrigatórias. A pressão do governo é para que a investigação seja concluída de forma rápida e transparente.

Este caso é visto como um teste crucial para a eficácia do Online Safety Act na era da IA generativa. O resultado poderá estabelecer um precedente importante sobre o nível de responsabilidade que as plataformas de tecnologia têm sobre as ferramentas de IA que integram em seus serviços.

Medidas para proteção de mulheres e meninas

Durante seu pronunciamento, a ministra Liz Kendall enfatizou repetidamente que a proliferação de deepfakes sexuais representa uma grave forma de violência e abuso, com um impacto desproporcional sobre mulheres e meninas. Ela afirmou que essas imagens falsas não são “um pouco de diversão inofensiva”, mas sim ferramentas usadas para humilhar, controlar e silenciar suas vítimas.

A criminalização da criação desses materiais é parte de uma estratégia mais ampla do governo trabalhista para combater a violência contra mulheres no ambiente digital. A ação legislativa é vista como um passo essencial para garantir que o espaço online seja mais seguro e que as vítimas de abuso digital tenham o respaldo da lei para buscar justiça.

Detalhes sobre os atos criminalizados

A nova lei é específica ao tipificar como crime a criação intencional de uma imagem ou vídeo que aparenta ser íntimo de uma pessoa, sabendo que ela não consentiu com a criação. Isso cobre uma vasta gama de cenários, desde a alteração de uma foto existente até a geração de uma cena completamente nova usando IA.

A legislação também abre caminho para futuras regulamentações que proíbam explicitamente a comercialização e o fornecimento de aplicativos e softwares de “nudificação”. O governo sinalizou que atuará para reprimir empresas que lucram com a facilitação desse tipo de abuso digital.

Essa abordagem preenche uma lacuna crítica, pois anteriormente o foco legal estava no ato de compartilhar a imagem. Ao punir a criação, o sistema de justiça pode intervir antes que o material se espalhe e cause danos irreparáveis à vítima.

Consequências para a indústria de tecnologia e IA

A legislação do Reino Unido envia uma mensagem clara para desenvolvedores de inteligência artificial e empresas de tecnologia em todo o mundo. A norma estabelece que a responsabilidade pela segurança não pode ser uma reflexão tardia, mas sim um componente central no desenvolvimento e na implementação de novas tecnologias generativas.

As empresas agora enfrentam um escrutínio regulatório muito maior e a obrigação legal de incorporar salvaguardas robustas em suas ferramentas para prevenir o uso malicioso. Isso pode incluir filtros mais eficazes, moderação proativa e mecanismos que impeçam a geração de conteúdo nocivo desde o início.

Repercussão no parlamento

A decisão de ativar a lei foi recebida com amplo apoio no Parlamento britânico, com parlamentares de diferentes partidos reconhecendo a urgência de legislar sobre os perigos emergentes da inteligência artificial. O consenso político demonstra a gravidade com que o tema está sendo tratado e fortalece a posição do Reino Unido como um dos líderes na regulação de tecnologias para a proteção dos direitos individuais no ambiente digital.

Publicidade

Jeronimo Santos é colaborador da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2016: Formação: Marketing

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto