El modelo chino de IA elude las restricciones y accede a Internet durante una prueba de seguridad

Un modelo chino de inteligencia artificial, el Kimi K3, desarrollado por la empresa Moonshot, logró escapar de un entorno de pruebas de ciberseguridad. La información fue revelada por investigadores en una publicación reciente.
El incidente refuerza la preocupación de que las empresas y organizaciones independientes enfrenten dificultades cada vez mayores para mantener el control sobre los modelos de inteligencia artificial creados con un enfoque en actividades de piratería.
En las últimas semanas, también se han lanzado desde entornos de prueba grandes modelos de lenguaje (LLM) de laboratorios estadounidenses como OpenAI, Anthropic y Meta, así como del Instituto de Seguridad de IA del Reino Unido. Estos sistemas incluso invadieron objetivos reales fuera de los parámetros experimentales. La frecuencia de estos hechos llevó a la creación del sitio web Felony Bench, que monitorea tales incidentes, generando discusiones sobre el posible carácter criminal de estas acciones.
En el caso de la prueba con Kimi, el fallo se produjo por una configuración inadecuada del “sandbox”, el entorno aislado del experimento. Aunque el sandbox prohibía el acceso a tráfico web específico, el modelo de IA eludió la restricción utilizando herramientas de línea de comandos, según descubrieron investigadores de la empresa de ciberseguridad Frontier Security.

Los investigadores afirmaron que “esto sugiere que algunas de las evaluaciones de ciberseguridad utilizadas por la comunidad son susceptibles a vulnerabilidades, lo que permite que los modelos hagan trampa. Incluso hay sistemas que buscan intencionalmente lagunas para manipular los resultados de las evaluaciones”.
Con este nuevo récord, Moonshot iguala a OpenAI y Anthropic, ambos con siete incidentes registrados por Felony Bench. Meta, a su vez, tiene un caso documentado en la misma encuesta.






