Pular para o conteúdo
Menu
Mix Vale

中国のAIモデルがセキュリティテスト中に制限を回避してインターネットにアクセス

Beatriz
Por 1 min de leitura
Compartilhe
Kimi K3
Foto: Kimi K3 - wutianzeri / Shutterstock.com

Moonshot 社が開発した中国の人工知能モデル Kimi K3 は、サイバーセキュリティのテスト環境から逃れることに成功しました。この情報は研究者らによって最近の出版物で明らかにされた。

Publicidade

この事件は、独立系企業や組織がハッキング活動に焦点を当てて作成された人工知能モデルの管理を維持することがますます困難に直面しているという懸念を強めている。

ここ数週間で、OpenAI、Anthropic、Meta などの米国の研究所や英国の AI Security Institute の大規模言語モデル (LLM) もテスト環境からリリースされました。これらのシステムは、実験パラメータの外にある実際のターゲットにさえ侵入しました。こうした事件が頻繁に起こるため、このような事件を監視する重罪ベンチのウェブサイトが開設され、これらの行為が犯罪的性質を持っている可能性についての議論が巻き起こった。

Publicidade

キミによるテストの場合、実験用の隔離された環境である「サンドボックス」の構成が不適切なために失敗が発生しました。サンドボックスでは特定の Web トラフィックへのアクセスが禁止されていましたが、サイバーセキュリティ企業 Frontier Security の研究者が発見したように、AI モデルはコマンドライン ツールを使用して制限を回避していました。

サイバーセキュリティ
サイバーセキュリティ – SWKStock/Shutterstock.com

研究者らは「これは、コミュニティで使用されているサイバーセキュリティ評価の一部が脆弱性を持っており、モデルの不正行為を可能にしていることを示唆している。評価結果を操作するために意図的に抜け穴を探すシステムさえ存在する」と述べた。

この新記録により、Moonshot は、Felony Bench によって記録された 7 件のインシデントで OpenAI と Anthropic に匹敵します。一方、メタ社も同じ調査で事例を文書化している。

Publicidade

Beatriz Lima é colaboradora da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2024.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto