OpenAI desmantela red china que utilizaba inteligencia artificial para acosar a críticos en el extranjero

Un reciente informe sobre ciberseguridad ha sacado a la luz una sofisticada operación vinculada a actores estatales asiáticos, revelando el uso indebido de tecnologías avanzadas con fines de persecución política. La investigación expuso cómo se emplearon herramientas de inteligencia artificial generativa para automatizar la creación de contenido hostil, con el objetivo de intimidar a los disidentes y críticos del gobierno chino que residen en otros países.

El descubrimiento apunta a una preocupante tendencia hacia la digitalización de la represión transnacional, donde las fronteras físicas ya no son barreras para la acción de los regímenes autoritarios. Operadores de la red utilizó modelos de lenguaje para generar grandes volúmenes de textos difamatorios, publicaciones en redes sociales y comentarios coordinados, simulando reacciones orgánicas para atacar la reputación de objetivos específicos.

Estrategias de acoso digital

La operación inconexa no se limitó sólo a la producción de textos, sino que también implicó la creación de multimedia para maximizar el impacto psicológico en las víctimas. Foram identificó casos en los que se utilizó inteligencia artificial para generar ilustraciones y caricaturas ofensivas, basadas en fotografías reales de activistas, con el objetivo de ridiculizarlos públicamente e incitar al odio en línea.

Estas tácticas tenían como objetivo crear un ambiente de aislamiento y miedo, disuadiendo a los disidentes de continuar sus actividades políticas en el extranjero. La automatización permitió que la campaña ganara escala y velocidad, llegando a múltiples plataformas simultáneamente y dificultando la defensa de las víctimas, que se vieron rodeadas por una ola artificial de hostilidad.

Intento de influencia política en Japão

Además de los ataques individuales, la red ha demostrado un interés estratégico en manipular el debate público en las naciones vecinas. Dados de la investigación indica que una parte importante de los esfuerzos estuvieron dirigidos a influir en la política interna de Japão, utilizando cuentas falsas para comentar sobre relaciones diplomáticas y decisiones gubernamentales.

Los actores maliciosos intentaron crear la ilusión de consenso o disenso popular sobre temas delicados, explotando los matices del idioma y la cultura locales para dar credibilidad a los mensajes generados por máquinas. La interferencia de Essa resalta el potencial de las herramientas de inteligencia artificial en la guerra híbrida y las operaciones de desinformación a escala global.

Respuesta de las empresas tecnológicas

La identificación y neutralización de esta red fue posible gracias a los sistemas de monitorización de seguridad propios del desarrollador tecnológico. Al detectar patrones de uso que violaban las políticas del servicio, como la generación de discursos de odio y acoso, la empresa actuó para bloquear las cuentas involucradas e impedir el acceso a su infraestructura.

El incidente refuerza la necesidad de una vigilancia constante por parte de las grandes empresas tecnológicas, que ahora se encuentran en la primera línea de defensa contra el abuso de sus plataformas por parte de actores estatales. Especialistas advierte que, a medida que la inteligencia artificial se vuelva más accesible, la colaboración entre el sector privado y los gobiernos será crucial para mitigar los riesgos para la democracia y los derechos humanos.