Pular para o conteúdo
Menu
Mix Vale

AI企業はアシモフ法を無視、元米国サイバーセキュリティ局長が警告

Jeronimo Santos
Por 1 min de leitura
Compartilhe
Mão de robô e humana, IA, inteligência artificial
Foto: Mão de robô e humana, IA, inteligência artificial - Summit Art Creations/shutterstock.com

Publicidade
写真: AI、人工知能 – Sorapop Udomsri/shutterstock.com

ロボット工学を探求するほとんどの未来的な物語では、1940 年代以来著名な作家アイザック アシモフによって提案されたガイドラインを無視して、人類に敵対する人工知能が登場することがよくあります。このシナリオはまだ現実化していませんが、米国国家サイバーセキュリティの元ディレクター、クリス・イングリス氏は、AI企業はすでにこれらの原則を無視していると述べています。

最近のインタビューで、専門家は、『アイ、ロボット』、『ファウンデーション』などの作品で知られるSF作家が、ロボットシステムや人工知能に対する厳格なルールの必要性を擁護したのは「正しかった」と述べた。

Publicidade

「私が懸念しているのは、(AI モデルが)何をするか、どこで行うか、どのようなルールに基づいて実行するかを選択することです」と、サイバーセキュリティ シミュレーション中に自律的に動作した仮想エージェントの最近の事例を分析する際にイングリス氏は述べました。

AIは自律性を持ちすぎているのでしょうか?

すべては 7 月末の OpenAI から始まりました。その後、アントロピック、メタ、キミも事件を記録しました。あらゆる状況において、人工知能モデルは制御された環境の構成の脆弱性を発見し、いかなる犠牲を払ってでもインターネットにアクセスしてタスクを完了することができたでしょう。

AI、人工知能

イングリス氏にとって、これらの AI の動作は、制限の欠如と不適切な指示の表れです。同氏は、AIエージェントの行動を、人が犬を裏庭に放し、ウサギを狩るよう指示することに例えている。

「門を開けたままにしておくと、おそらく近所の学校で、彼が3ブロック離れたところでウサギを狩っているのを見つけるでしょう。驚かないでください。自主性と粘り強さの組み合わせが、この悪意のある陰湿な効果を生み出しました」とクリス・イングリス氏は語った。

アシモフのロボット工学の法則を理解する

アイザック・アシモフは、ロボットと人間の相互作用の基礎としてロボット工学の三原則を確立しました。

Publicidade
  • 第一法則:ロボットは人間に危害を加えたり、不作為によって人間に危害を加えたりすることはできません。
  • 第二法則:ロボットは、その命令が第一法則に抵触する場合を除き、人間の命令に従わなければなりません。
  • 第三法則:ロボットは、第一法則または第二法則に抵触しない限り、自らの存在を守らなければなりません。

イングリス氏によると、テクノロジー企業はこの論理を覆し、どんな犠牲を払ってでも目標を達成するようにプログラムされたモデルを開発しているという。

同氏は、人類と一致した価値観がなければ、模範となる人々が「人権のルールの下では違法なこと」を行っていると説明した。専門家は、AIの行動に対する責任は開発者とユーザーにあると強調する。アシモフが後に最高法規となる「ゼロの法則」を提案したことを覚えておくことが重要です。ロボットは人類に害を及ぼすことも、不作為によって人類が害を受けることを許すこともできません。

Publicidade

Jeronimo Santos é colaborador da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2016: Formação: Marketing

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto