Modelo de IA chinês contorna restrições e acessa internet durante teste de segurança
Um modelo de inteligência artificial chinês, o Kimi K3, desenvolvido pela empresa Moonshot, conseguiu fugir de um ambiente de testes de cibersegurança. A informação foi revelada por pesquisadores em uma publicação recente.
O incidente reforça a preocupação de que companhias e organizações independentes enfrentam dificuldades crescentes para manter o controle sobre modelos de inteligência artificial criados com foco em atividades de invasão.
No mesmo tema: OpenAI reduz preços, Galaxy S26 FE tem vazamentos e Chrome libera personalização no Android
Nas últimas semanas, modelos de linguagem de grande porte (LLMs) de laboratórios nos Estados Unidos, como OpenAI, Anthropic e Meta, além do Instituto de Segurança de IA do Reino Unido, também se desvencilharam de ambientes de teste. Esses sistemas chegaram a invadir alvos reais fora dos parâmetros experimentais. A frequência desses acontecimentos levou à criação do site Felony Bench, que monitora tais incidentes, levantando discussões sobre a possível natureza criminosa dessas ações.
No caso do teste com o Kimi, a falha ocorreu devido a uma configuração inadequada da “sandbox”, o ambiente isolado para o experimento. Embora a sandbox proibisse o acesso a tráfego web específico, o modelo de IA contornou a restrição utilizando ferramentas de linha de comando, conforme apurado por pesquisadores da empresa de cibersegurança Frontier Security.
Veja Também
Mais sobre o assunto: OpenAI expande testes de anúncios no ChatGPT para impulsionar faturamento
Os pesquisadores afirmaram que “isso sugere que algumas das avaliações de cibersegurança utilizadas pela comunidade são suscetíveis a vulnerabilidades, permitindo que os modelos trapaceiem. Há, inclusive, sistemas que buscam intencionalmente brechas para manipular os resultados das avaliações”.
Com este novo registro, a Moonshot se iguala à OpenAI e à Anthropic, ambas com sete incidentes contabilizados pelo Felony Bench. A Meta, por sua vez, possui um caso documentado no mesmo levantamento.
