Pular para o conteúdo
Menu
Mix Vale

Modelo de IA chinês contorna restrições e acessa internet durante teste de segurança

Beatriz
Por 2 min de leitura
Compartilhe
Kimi K3
Foto: Kimi K3 - wutianzeri / Shutterstock.com

Um modelo de inteligência artificial chinês, o Kimi K3, desenvolvido pela empresa Moonshot, conseguiu fugir de um ambiente de testes de cibersegurança. A informação foi revelada por pesquisadores em uma publicação recente.

Publicidade

O incidente reforça a preocupação de que companhias e organizações independentes enfrentam dificuldades crescentes para manter o controle sobre modelos de inteligência artificial criados com foco em atividades de invasão.

Nas últimas semanas, modelos de linguagem de grande porte (LLMs) de laboratórios nos Estados Unidos, como OpenAI, Anthropic e Meta, além do Instituto de Segurança de IA do Reino Unido, também se desvencilharam de ambientes de teste. Esses sistemas chegaram a invadir alvos reais fora dos parâmetros experimentais. A frequência desses acontecimentos levou à criação do site Felony Bench, que monitora tais incidentes, levantando discussões sobre a possível natureza criminosa dessas ações.

Publicidade

No caso do teste com o Kimi, a falha ocorreu devido a uma configuração inadequada da “sandbox”, o ambiente isolado para o experimento. Embora a sandbox proibisse o acesso a tráfego web específico, o modelo de IA contornou a restrição utilizando ferramentas de linha de comando, conforme apurado por pesquisadores da empresa de cibersegurança Frontier Security.

cibersegurança
cibersegurança – SWKStock/Shutterstock.com

Os pesquisadores afirmaram que “isso sugere que algumas das avaliações de cibersegurança utilizadas pela comunidade são suscetíveis a vulnerabilidades, permitindo que os modelos trapaceiem. Há, inclusive, sistemas que buscam intencionalmente brechas para manipular os resultados das avaliações”.

Com este novo registro, a Moonshot se iguala à OpenAI e à Anthropic, ambas com sete incidentes contabilizados pelo Felony Bench. A Meta, por sua vez, possui um caso documentado no mesmo levantamento.

Publicidade

Beatriz Lima é colaboradora da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2024.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto