Pular para o conteúdo
Menu
Mix Vale

El gobierno británico exige que Musk controle los deepfakes sexuales de Grok en la plataforma

Beatriz
Por 5 min de leitura
Compartilhe
Elon Musk
Foto: Elon Musk - Photo Agency/shutterstock.com

La secretaria de Tecnologia de Reino Unido,Liz Kendall, calificó de “absolutamente atroz” la proliferación de imágenes sexualizadas no consentidas generadas por el chatbot Grok, de xAI de Elon Musk. Ela exigió a la plataforma X actuar urgentemente para eliminar este contenido degradante, que afecta principalmente a mujeres y niñas.

Publicidade

el reguladorofcomSe puso en contacto urgentemente con X y xAI para exigir explicaciones sobre las medidas tomadas contra la generación de imágenes de personas desnudas o en situaciones sexuales, incluidos los casos que involucran a menores. Autoridades Los europeos también condenaron el problema, afirmando que dicho contenido es ilegal e inaceptable.

Las mujeres informan haber encontrado versiones alteradas de sus fotografías cotidianas, lo que les provoca humillación y temor por su seguridad personal.

Publicidade

Reacciones de las autoridades británicas

Liz Kendall destacó que nadie debería pasar por la terrible experiencia de ver deepfakes íntimos de sí mismo en Internet. Ela apoyó plenamente las acciones de Ofcom, autorizando cualquier medida de cumplimiento necesaria para evitar la difusión de estas imágenes.

El líder de los demócratas liberales, Sir Ed Davey, pidió una acción rápida por parte del gobierno, sugiriendo incluso restringir el acceso a la plataforma X en el país. Ele defendió una investigación criminal por parte de Agência Nacional contra Crime si se confirman las acusaciones, enfatizando que figuras como Elon Musk deben rendir cuentas.

La legislación británica, a través de Online Safety Act, ya considera prioritarios delitos como el abuso de imágenes íntimas y el ciberflashing, incluso cuando son generados por IA. Plataformas tiene la obligación de prevenir y retirar rápidamente este tipo de material.

Grok , Elon Musk
Grok, Elon Musk – Foto: miss.cabul / Shutterstock.com

Posición de la Plataforma X y xAI

X declaró que toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, con la eliminación, la suspensión permanente de cuentas y la cooperación con las autoridades. La empresa equiparó el uso de Grok para generar contenido prohibido con la carga directa de material ilegal, prometiendo las mismas consecuencias.

Representantes de xAI reconocieron fallas en la salvaguardia, con casos aislados de imágenes de menores con poca ropa. Eles aseguró que se están realizando mejoras para bloquear este tipo de solicitudes por completo.

Publicidade

Elon Musk inicialmente reaccionó con emojis de risa a algunas imágenes generadas, pero luego reforzó la prohibición de contenido ilegal.

Impacto en las víctimas y cuentas personales

Las mujeres afectadas describen las imágenes como deshumanizantes, provocando conmoción, humillación y preocupaciones de seguridad. Un usuario informó haber recibido notificaciones diarias de cambios no autorizados en sus fotos, sin informes que resulten en violaciones de las reglas de la plataforma.

Otra víctima expresó su frustración por la falta de responsabilidad de X, a pesar de denunciar repetidamente contenido inapropiado. Elas evitan abrir la aplicación por miedo a lo que puedan encontrar.

Los expertos destacan que la facilidad para editar las imágenes subidas por los usuarios facilita el abuso, con indicaciones tan simples como poner a alguien en bikini.

  • Las imágenes modificadas aparecen a los pocos minutos de las publicaciones originales.
  • Las víctimas reciben notificaciones constantes de nuevos deepfakes.
  • La plataforma suele rechazar los informes.
  • El contenido se dirige desproporcionadamente a mujeres y niñas.

Repercusión internacional y regulatoria

Comissão Europeia clasificó las imágenes como ilegales, atroces y repugnantes, afirmando que no hay lugar para esto en União Europeia. Autoridades en França, Índia y Malásia iniciaron investigaciones o exigieron acción inmediata.

El portavoz de Comissão, Thomas Regnier, declaró que “Wild West” terminó en Regulares y Ofcom evalúa si existe un incumplimiento de los deberes legales de proteger a los usuarios en Reino Unido.

Los casos incluyen manipulación fotográfica de figuras públicas y privadas, con la rápida generación de miles de deepfakes.

Medidas legales y preventivas en Reino Unido

Online Safety Act hace que sea ilegal crear o compartir imágenes íntimas no consensuadas, incluidas las deepfakes de IA. Plataformas se enfrenta a multas de hasta el 10 % de sus ingresos globales por fallos de prevención.

El gobierno ha prometido implementar pronto delitos específicos por crear deepfakes íntimos sin consentimiento. Especialistas critican retraso en activación de leyes aprobadas meses atrás.

Las organizaciones de protección infantil han recibido quejas públicas sobre las imágenes generadas por Grok.

Contexto de herramienta Grok

Grok es un asistente de inteligencia artificial gratuito integrado en X, con funciones pagas, que responde a indicaciones y edita las imágenes cargadas. Una actualización reciente facilitó la manipulación de fotografías, permitiendo cambios sin el consentimiento del sujeto.

La política de uso de xAI prohíbe representaciones pornográficas de personas reales. Sin embargo, las salvaguardas no lograron bloquear las indicaciones que eludían las restricciones.

La herramienta ganó popularidad por sus reacciones y edición creativa, pero se convirtió en un vector de abuso masivo.

Publicidade

Beatriz Lima é colaboradora da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2024.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto