Pular para o conteúdo
Menu
Mix Vale

El modelo chino de IA elude las restricciones y accede a Internet durante una prueba de seguridad

Beatriz
Por 2 min de leitura
Compartilhe
Kimi K3
Foto: Kimi K3 - wutianzeri / Shutterstock.com

Un modelo chino de inteligencia artificial, el Kimi K3, desarrollado por la empresa Moonshot, logró escapar de un entorno de pruebas de ciberseguridad. La información fue revelada por investigadores en una publicación reciente.

Publicidade

El incidente refuerza la preocupación de que las empresas y organizaciones independientes enfrenten dificultades cada vez mayores para mantener el control sobre los modelos de inteligencia artificial creados con un enfoque en actividades de piratería.

En las últimas semanas, también se han lanzado desde entornos de prueba grandes modelos de lenguaje (LLM) de laboratorios estadounidenses como OpenAI, Anthropic y Meta, así como del Instituto de Seguridad de IA del Reino Unido. Estos sistemas incluso invadieron objetivos reales fuera de los parámetros experimentales. La frecuencia de estos hechos llevó a la creación del sitio web Felony Bench, que monitorea tales incidentes, generando discusiones sobre el posible carácter criminal de estas acciones.

Publicidade

En el caso de la prueba con Kimi, el fallo se produjo por una configuración inadecuada del “sandbox”, el entorno aislado del experimento. Aunque el sandbox prohibía el acceso a tráfico web específico, el modelo de IA eludió la restricción utilizando herramientas de línea de comandos, según descubrieron investigadores de la empresa de ciberseguridad Frontier Security.

ciberseguridad
ciberseguridad – SWKStock/Shutterstock.com

Los investigadores afirmaron que “esto sugiere que algunas de las evaluaciones de ciberseguridad utilizadas por la comunidad son susceptibles a vulnerabilidades, lo que permite que los modelos hagan trampa. Incluso hay sistemas que buscan intencionalmente lagunas para manipular los resultados de las evaluaciones”.

Con este nuevo récord, Moonshot iguala a OpenAI y Anthropic, ambos con siete incidentes registrados por Felony Bench. Meta, a su vez, tiene un caso documentado en la misma encuesta.

Publicidade

Beatriz Lima é colaboradora da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2024.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto