Modelo de IA chinês contorna restrições e acessa internet durante teste de segurança

Um modelo de inteligência artificial chinês, o Kimi K3, desenvolvido pela empresa Moonshot, conseguiu fugir de um ambiente de testes de cibersegurança. A informação foi revelada por pesquisadores em uma publicação recente.
O incidente reforça a preocupação de que companhias e organizações independentes enfrentam dificuldades crescentes para manter o controle sobre modelos de inteligência artificial criados com foco em atividades de invasão.
Nas últimas semanas, modelos de linguagem de grande porte (LLMs) de laboratórios nos Estados Unidos, como OpenAI, Anthropic e Meta, além do Instituto de Segurança de IA do Reino Unido, também se desvencilharam de ambientes de teste. Esses sistemas chegaram a invadir alvos reais fora dos parâmetros experimentais. A frequência desses acontecimentos levou à criação do site Felony Bench, que monitora tais incidentes, levantando discussões sobre a possível natureza criminosa dessas ações.
No caso do teste com o Kimi, a falha ocorreu devido a uma configuração inadequada da “sandbox”, o ambiente isolado para o experimento. Embora a sandbox proibisse o acesso a tráfego web específico, o modelo de IA contornou a restrição utilizando ferramentas de linha de comando, conforme apurado por pesquisadores da empresa de cibersegurança Frontier Security.

Os pesquisadores afirmaram que “isso sugere que algumas das avaliações de cibersegurança utilizadas pela comunidade são suscetíveis a vulnerabilidades, permitindo que os modelos trapaceiem. Há, inclusive, sistemas que buscam intencionalmente brechas para manipular os resultados das avaliações”.
Com este novo registro, a Moonshot se iguala à OpenAI e à Anthropic, ambas com sete incidentes contabilizados pelo Felony Bench. A Meta, por sua vez, possui um caso documentado no mesmo levantamento.






