El gobierno británico tipifica como delito la creación de imágenes íntimas mediante IA y amplía la supervisión de las redes sociales

A partir de esta semana, la legislación Reino Unido endurece significativamente la lucha contra la violencia digital con la entrada en vigor de normas que penalizan la producción de imágenes íntimas falsas generadas por inteligencia artificial. El anuncio lo realizó el Parlamento de este lunes 12 de enero, por la ministra de Tecnologia, Liz Kendall, quien catalogó la medida como un paso fundamental para proteger la integridad de las mujeres y niñas en el entorno virtual. La nueva norma no sólo castiga la distribución, sino que ataca la raíz del problema al ilegalizar el acto de crear el material, independientemente de su posterior intercambio.
El endurecimiento de las leyes es una respuesta directa a la proliferación de herramientas de inteligencia artificial generativa que facilitan la creación de contenido sexual no consensuado, conocido como deepfake. La decisión del gobierno anticipa los dispositivos previstos en Data (Uso y Access) Act, aprobados en 2025, lo que demuestra la urgencia de las autoridades para hacer frente a la rápida evolución de estas tecnologías. El objetivo principal es evitar que se utilice software para eliminar digitalmente ropa de fotografías o insertar rostros de personas reales en escenas con contenido explícito sin ninguna autorización.
Además de apuntar a los usuarios que generan contenido, la nueva legislación extiende la responsabilidad penal a los desarrolladores y proveedores de herramientas diseñadas específicamente para este propósito. La estrategia pretende desmantelar el ecosistema que permite la “nudificación” automática, tratando este software como instrumentos de abuso. El Ministro Kendall destacó que tales imágenes no pueden considerarse inofensivas, ya que representan una grave violación de la privacidad y la dignidad de las víctimas, lo que a menudo resulta en daños psicológicos duraderos.
La implementación inmediata de la ley refleja un cambio de postura por parte del gobierno laborista, que busca llenar los vacíos dejados por regulaciones anteriores. Especialistas en derecho digital señalan que, hasta entonces, muchas acciones se centraban únicamente en la difusión pública de imágenes, dejando impunes a quienes las producían para consumo privado o para amenazar a las víctimas. Agora, la simple fabricación de material ilícito constituye un delito penal, cerrando la brecha contra el uso malicioso de la inteligencia artificial.
Ofcom investiga fallos de seguridad en plataforma
El regulador de comunicaciones de Reino Unido, Ofcom, ha iniciado una investigación formal contra la plataforma X, anteriormente conocida como Relatos. Recientes informes indicaron que la herramienta estaba siendo ampliamente utilizada para generar imágenes sexualizadas y deepfakes, violando los lineamientos de seguridad en línea establecidos en el país. La investigación busca determinar si la empresa no implementó salvaguardas adecuadas para evitar la creación de este contenido.
Las autoridades británicas consideraron insuficiente la respuesta inicial de Platform X, que restringió el acceso a la función de imágenes únicamente a suscriptores pagos. El gobierno requiere medidas técnicas sólidas que impidan que el contenido se genere en la fuente, en lugar de simplemente limitar quién puede acceder a él. La investigación Ofcom tiene el poder de resultar en fuertes multas y la imposición de correcciones obligatorias si se demuestra que la empresa descuidó los riesgos asociados con su tecnología.
El caso de Grok se ha vuelto emblemático por exponer la facilidad con la que las herramientas de IA pueden ser manipuladas con fines abusivos cuando no cuentan con filtros éticos estrictos. La capacidad de generar imágenes realistas en segundos ha convertido a la plataforma en un vector de preocupación para los reguladores de Europa. El gobierno británico mantiene en revisión el uso de la red social como canal de comunicación oficial, señalando un posible distanciamiento si las políticas de seguridad no se refuerzan satisfactoriamente.
Nuevas directrices y lucha contra la violencia digital
La nueva legislación establece un marco regulatorio claro para el uso de tecnologías emergentes, priorizando la seguridad ciudadana por encima de la innovación desenfrenada. El gobierno ha delineado una serie de acciones que deben seguir tanto los individuos como las corporaciones tecnológicas para garantizar el cumplimiento de la ley. Las medidas apuntan a crear un entorno digital que sea hostil para los abusadores y seguro para los usuarios comunes.
- Penalización inmediata de la creación o solicitud de deepfakes sexuales, llenando el vacío legal que permitía la producción para uso privado.
- Prohibición total del desarrollo y comercialización de software o aplicaciones cuya función principal sea la remoción digital de prendas de vestir.
- Obligatorio para las plataformas digitales adoptar mecanismos proactivos para detectar y bloquear contenidos abusivos antes de que se difundan.
- Ampliación de la cooperación internacional para monitorear el flujo transfronterizo de herramientas ilegales de IA y compartir tecnologías de prevención.
Estas directrices refuerzan el Online Safety Act 2023, actualizando sus disposiciones para la realidad de la inteligencia artificial generativa. La expectativa es que la presión regulatoria obligue a las grandes empresas tecnológicas a invertir más en equipos de seguridad y confianza, además de desarrollar algoritmos capaces de distinguir entre arte legítimo y material abusivo. Ministro
Impacto en el desarrollo de las tecnologías de IA
La entrada en vigor de esta ley coloca a Reino Unido a la vanguardia de la regulación de la inteligencia artificial, sirviendo como un posible modelo para otras naciones que enfrentan desafíos similares. Desenvolvedores de IA ahora operan bajo un escrutinio mucho mayor, donde la negligencia en la implementación de filtros de seguridad puede tener consecuencias penales. Isso debería impulsar un cambio en la filosofía de diseño de productos, donde la seguridad se convierta en un requisito fundamental desde la concepción del software, y no solo en una funcionalidad añadida posteriormente.
El sector tecnológico sigue de cerca la evolución, ya que el estándar puede requerir ajustes técnicos complejos en los modelos de lenguaje y generadores de imágenes existentes. La responsabilidad por el uso ético de las herramientas está pasando del usuario final a los creadores de la tecnología, lo que obliga a las empresas a asumir un papel activo en la prevención de daños. La medida también busca desalentar el surgimiento de un mercado clandestino de herramientas deepfake, lo que hace riesgoso el funcionamiento de servicios destinados a la explotación sexual digital.



