Hacer deepfakes sexuales es ahora un delito en el Reino Unido después de que la nueva legislación entre en vigor

El gobierno de Reino Unido dio un paso decisivo en la lucha contra la violencia digital al poner en vigor una nueva ley que penaliza la creación de imágenes íntimas deepfake sin el consentimiento de la persona retratada. La medida, anunciada por la ministra de Tecnologia, Liz Kendall, en el británico Parlamento, responde directamente a la creciente preocupación por el uso de herramientas de inteligencia artificial para generar contenidos sexualmente explícitos y abusivos.
La nueva legislación se aceleró luego de una serie de controversias que involucraron al chatbot Grok, integrado en la plataforma X, que permitía a los usuarios generar imágenes sexualizadas de personajes públicos y anónimos. La norma no sólo ilegaliza la producción de este tipo de material, sino que también pretende impedir el suministro de software desarrollado específicamente para este fin, llenando un importante vacío legal.
La ministra Kendall destacó que esta forma de abuso afecta desproporcionadamente a mujeres y niñas, catalogando los deepfakes como instrumentos de violencia y control. La decisión de adelantar la aplicación de un dispositivo ya prevista en Data (Uso y Access) Act, de 2025, señala la urgencia del gobierno de abordar los riesgos asociados a las nuevas tecnologías de IA generativa.
Con la ley vigente, las autoridades esperan crear un fuerte elemento disuasorio para la creación de este contenido actuando sobre la raíz del problema. La medida complementa la Online Safety Act existente, reforzando la responsabilidad de las plataformas digitales de proteger a sus usuarios de materiales dañinos e ilegales.
Qué establece la nueva legislación británica
El nuevo estándar legal implementado en Reino Unido es integral y específico en su objetivo de combatir los deepfakes sexuales. El punto central de la ley es la penalización del acto de crear una imagen íntima de otra persona, utilizando inteligencia artificial o cualquier otra tecnología, sin su consentimiento explícito. Isso significa que, aunque la imagen nunca sea compartida o distribuida, el simple hecho de producirla ya constituye un delito punible. La legislación fue diseñada para eliminar la ambigüedad legal que existía anteriormente, donde el enfoque criminal se centraba principalmente en la distribución de contenido íntimo no consensuado. Agora, se ataca directamente la fuente del ciclo de abuso. Além de creación individual, la ley también prevé sanciones para quienes soliciten la producción de estos materiales y, en una etapa posterior, para las empresas que desarrollen y vendan software cuyo objetivo principal sea la “nudificación” digital o la creación de contenidos explícitos falsos. La medida fortalece el marco Online Safety Act, ampliando las obligaciones de las plataformas tecnológicas, que deben implementar mecanismos más robustos para detectar y prevenir el uso de sus herramientas con fines ilícitos, con riesgo de fuertes multas y sanciones regulatorias.
La polémica en torno al chatbot Grok
La aceleración de la ley fue impulsada por una controversia de alto perfil que involucra a Grok, un chatbot de inteligencia artificial desarrollado por xAI e integrado en el X. La facilidad con la que fue posible crear escenas falsas, a menudo quitando digitalmente la ropa de las personas en fotografías originales, generó alarma pública y llamó la atención inmediata de legisladores y organismos reguladores.
En respuesta a las críticas iniciales, la administración de la plataforma X implementó una restricción, haciendo que la funcionalidad de imágenes de Grok fuera accesible solo para suscriptores pagos. Sin embargo, el gobierno británico consideró la medida completamente insuficiente para mitigar los riesgos. El ministro Liz Kendall declaró públicamente que colocar esta peligrosa herramienta detrás de un muro de pago no solucionaba el problema fundamental y no protegía a las víctimas potenciales. Essa resposta inadequada da empresa foi um dos factores determinantes para que el gobierno agisse com celeridade, aplicando una nueva legislación para deixar claro que tanto a criação quanto a facilitação de tal conteúdo não seriam toleradas.
Investigación de Ofcom y responsabilidad de las plataformas
Paralelamente a la implementación de la ley, Ofcom, la agencia reguladora de comunicaciones de Reino Unido, inició una investigación formal sobre la plataforma X. La investigación tiene como objetivo determinar si la empresa violó las directrices Online Safety Act al permitir que su herramienta de inteligencia artificial se utilizara para crear contenido abusivo.
El foco de la investigación es evaluar si la plataforma tomó las medidas de seguridad adecuadas y necesarias para proteger a los usuarios, especialmente en lo que respecta a evitar la generación de imágenes íntimas no consentidas y material que pueda constituir abuso sexual infantil.
Ofcom tiene importantes poderes para imponer sanciones, que pueden incluir multas de hasta el 10% de los ingresos globales de la empresa o la imposición de medidas correctivas obligatorias. La presión del gobierno es para que la investigación se complete de forma rápida y transparente.
Este caso se considera una prueba crucial de la eficacia de Online Safety Act en la era de la IA generativa. El resultado podría sentar un precedente importante para el nivel de responsabilidad que tienen las plataformas tecnológicas sobre las herramientas de inteligencia artificial que integran en sus servicios.
Medidas para proteger a las mujeres y las niñas
Durante su discurso, la Ministra Liz Kendall enfatizó repetidamente que la proliferación de deepfakes sexuales representa una forma grave de violencia y abuso, con un impacto desproporcionado en mujeres y niñas. Ela afirmó que estas imágenes falsas no son “un poco de diversión inofensiva”, sino más bien herramientas utilizadas para humillar, controlar y silenciar a sus víctimas.
La criminalización de la creación de estos materiales es parte de la estrategia más amplia del gobierno laborista para combatir la violencia contra las mujeres en el entorno digital. La acción legislativa se considera un paso esencial para garantizar que el espacio en línea sea más seguro y que las víctimas de abuso digital tengan el respaldo de la ley para buscar justicia.
Detalles sobre actos criminalizados
La nueva ley es específica al tipificar como delito la creación intencional de una imagen o video que parezca íntimo de una persona, sabiendo que esta no dio su consentimiento para su creación. Isso cubre una amplia gama de escenarios, desde alterar una foto existente hasta generar una escena completamente nueva usando IA.
La legislación también allana el camino para futuras regulaciones que prohíban explícitamente la comercialización y el suministro de aplicaciones y software de “desnudez”. El gobierno ha señalado que tomará medidas enérgicas contra las empresas que se benefician facilitando este tipo de abuso digital.
Este enfoque llena un vacío crítico, ya que anteriormente el enfoque legal estaba en el acto de compartir la imagen. Al castigar la creación, el sistema de justicia puede intervenir antes de que el material se difunda y cause un daño irreparable a la víctima.
Consecuencias para la industria de la tecnología y la IA
La legislación Reino Unido envía un mensaje claro a los desarrolladores de inteligencia artificial y a las empresas de tecnología de todo el mundo. La norma establece que la responsabilidad por la seguridad no puede ser una ocurrencia tardía, sino un componente central en el desarrollo e implementación de nuevas tecnologías generativas.
Las empresas ahora enfrentan un escrutinio regulatorio mucho mayor y la obligación legal de incorporar salvaguardias sólidas en sus herramientas para evitar el uso malicioso. Isso puede incluir filtros más efectivos, moderación proactiva y mecanismos que impidan la generación de contenidos dañinos desde el principio.
Repercusión en el parlamento
La decisión de activar la ley recibió un amplio apoyo en el Parlamento británico, y parlamentarios de diferentes partidos reconocieron la urgencia de legislar sobre los peligros emergentes de la inteligencia artificial. El consenso político demuestra la seriedad con la que se aborda el tema y fortalece la posición de Reino Unido como uno de los líderes en la regulación de tecnologías para la protección de los derechos individuales en el entorno digital.



