Platform X ha confirmado la implementación de nuevas barreras tecnológicas en su chatbot Grok, diseñadas específicamente para impedir la edición de fotografías de personas reales con el fin de quitarles o alterarles la ropa. La medida, anunciada el 14 de enero de 2026, es una respuesta directa a la creciente ola de denuncias sobre la creación y difusión de deepfakes sexualizados, que afectaban tanto a adultos como a menores.
La decisión fue motivada por el mal uso de la herramienta de inteligencia artificial, que permitía a usuarios malintencionados generar montajes no consentidos con contenido de desnudos o ropa sugerente. Las restricciones se aplicaron de forma inmediata y global, afectando a todos los usuarios de la red social, independientemente de su tipo de suscripción.
La polémica escaló en las últimas semanas tras la circulación de varias imágenes manipuladas, generando una fuerte reacción de autoridades y organizaciones defensoras de los derechos digitales en varios países. La empresa destacó que la actualización tiene como objetivo alinear el funcionamiento de la herramienta con la legislación vigente y proteger la integridad de las personas en la plataforma.
Antes de la actualización, la función de edición de imágenes integrada en Grok ofrecía una amplia libertad, que se aprovechaba para crear contenido dañino. La nueva política representa un esfuerzo de la empresa para contener los abusos y restaurar la seguridad en el entorno digital que gestiona.
Cómo funcionan los nuevos filtros de seguridad
El equipo de seguridad de X detalló que la nueva capa de protección opera a través de filtros avanzados, programados para identificar y bloquear en tiempo real cualquier comando que solicite el retiro de ropa o la inserción de elementos de connotación sexual en imágenes de personas. El sistema está diseñado para analizar la intención detrás de las solicitudes de los usuarios antes de que se genere cualquier imagen, rechazando automáticamente las solicitudes que violen las nuevas pautas. La empresa afirmó que el seguimiento es continuo para identificar y neutralizar cualquier intento de eludir las barreras de seguridad. Além bloquea la operación, los usuarios que insistan en enviar comandos prohibidos pueden enfrentar sanciones, como la limitación temporal o permanente del acceso a la herramienta de inteligencia artificial. La actualización se distribuyó globalmente para garantizar que se apliquen las mismas reglas de protección en todos los idiomas y regiones donde opera la plataforma, reforzando un estándar de seguridad unificado.
El posicionamiento oficial de la empresa y Elon Musk.
Elon Musk, propietario de X y fundador de xAI, empresa responsable del desarrollo de Grok, habló públicamente sobre la polémica. Ele afirmó no tener conocimiento previo de la generación de imágenes explícitas que involucran a menores por parte de la herramienta y destacó que el chatbot solo ejecuta órdenes directas de los usuarios, teniendo mecanismos para rechazar automáticamente la creación de contenidos considerados ilegales. Musk destacó el compromiso de la empresa para combatir el mal uso de la tecnología.
En un comunicado oficial, la plataforma X complementó las declaraciones, afirmando que fallas específicas identificadas en barreras de protección anteriores ya habían sido corregidas en actualizaciones anteriores. La compañía reiteró su compromiso con el cumplimiento legal en todos los mercados y destacó que el equipo de xAI está implementando mejoras continuas para evitar la recurrencia de incidentes. La prioridad, según la nota, es garantizar un entorno seguro sin sacrificar la innovación tecnológica.
Investigaciones y bloqueos en todo el mundo
En Reino Unido, el organismo regulador de comunicaciones, Ofcom, inició una investigación formal contra
En Brasil, Instituto Brasileiro de Defesa de Consumidor (Idec) solicitó formalmente al gobierno que suspendiera temporalmente el acceso a Grok. La entidad argumentó que la herramienta representó una violación directa a los derechos de imagen y privacidad, especialmente de niños y adolescentes.
En una acción más drástica, los gobiernos de Indonésia y Malásia decidieron bloquear completamente el acceso a Grok en sus territorios. La decisión se basó en estrictas leyes locales contra la difusión de pornografía y contenidos considerados ofensivos.
La movilización de la sociedad civil organizada
Una coalición internacional, formada por más de 20 organizaciones feministas y de derechos digitales, ha intensificado la presión sobre los gigantes tecnológicos.
Las entidades enviaron cartas abiertas a Apple y Google, solicitando la eliminación temporal de la aplicación X de sus respectivas tiendas de aplicaciones.
El principal argumento presentado fue que, al mantener la aplicación disponible, las empresas estarían facilitando el acceso a una herramienta utilizada para cometer abuso sexual digital.
Entre los firmantes de las cartas se encontraban grupos destacados, como UltraViolet y National Organization por Women, que advirtieron del riesgo inminente para miles de víctimas potenciales.
Origen del problema en la herramienta de imágenes.
La funcionalidad de edición de Grok fue desarrollada por xAI para permitir creaciones visuales creativas a partir de comandos de texto. Sin embargo, su capacidad para alterar fotografías publicadas en la plataforma fue rápidamente explotada con fines maliciosos.
Una investigación independiente realizada antes de la implementación del bloqueo reveló un volumen significativo de solicitudes para generar desnudos o insertar ropa mínima en imágenes reales, exponiendo la vulnerabilidad del sistema al abuso.
La evolución de las medidas de contención
Anteriormente, la plataforma había intentado contener el problema limitando el acceso a la edición de imágenes únicamente a los suscriptores pagos. La medida fue muy criticada, ya que se interpretó como una forma de monetizar una funcionalidad que presentaba claros riesgos para la seguridad de los usuarios. La restricción actual, que prohíbe completamente este tipo de edición para todos, representa un cambio de estrategia más acorde con los requisitos de seguridad.
Contexto legal y responsabilidad de la plataforma
X reafirmó su política de tolerancia cero contra cualquier material de abuso sexual infantil, asegurando la eliminación inmediata de contenido y prohibiciones permanentes de cuentas infractoras. La empresa también coopera activamente con las autoridades policiales en investigaciones relacionadas con delitos digitales.
Si bien la responsabilidad principal por el mal uso de la herramienta recae en los usuarios que emiten los comandos prohibidos, la plataforma reconoce su deber de implementar salvaguardias sólidas para evitar que su tecnología se utilice para causar daño, equilibrando la innovación y la protección del usuario.
