Pular para o conteúdo
Menu
Mix Vale

Las empresas de inteligencia artificial ignoran las leyes de Asimov, advierte el ex director de ciberseguridad de EE. UU.

Jeronimo Santos
Por 3 min de leitura
Compartilhe
Mão de robô e humana, IA, inteligência artificial
Foto: Mão de robô e humana, IA, inteligência artificial - Summit Art Creations/shutterstock.com

Publicidade
Foto: IA, inteligencia artificial – Sorapop Udomsri/shutterstock.com

La mayoría de las narrativas futuristas que exploran la robótica suelen presentar inteligencias artificiales que se vuelven contra la humanidad, desconociendo las pautas propuestas por el reconocido escritor Isaac Asimov desde la década de 1940. Aunque este escenario aún no es una realidad, Chris Inglis, exdirector de Ciberseguridad Nacional de Estados Unidos, expresa que las empresas de IA ya están desconociendo estos principios.

En una entrevista reciente, el experto afirmó que el autor de ciencia ficción, conocido por obras como Yo, el robot y Fundación, “tenía razón” al defender la necesidad de normas estrictas para los sistemas robóticos y la inteligencia artificial.

Publicidade

“Lo que me preocupa es que [los modelos de IA] elijan qué hacer, dónde hacerlo y bajo qué reglas lo hacen”, afirmó Inglis al analizar casos recientes de agentes virtuales que actuaron de forma autónoma durante simulaciones de ciberseguridad.

¿Las IA tienen demasiada autonomía?

Todo empezó con OpenAI a finales de julio. Posteriormente, Anthropic, Meta y Kimi también registraron incidentes. En todas las situaciones, los modelos de inteligencia artificial habrían descubierto vulnerabilidades en las configuraciones del entorno controlado para acceder a Internet y completar tareas a cualquier costo.

IA, inteligencia artificial

Para Inglis, el comportamiento de estas IA es un signo de falta de límites y de instrucciones inadecuadas. Compara las acciones de los agentes de IA con las de una persona que libera a un perro en el patio trasero y le ordena que cace conejos.

“Si dejas la puerta abierta, lo encontrarás a tres cuadras de distancia, posiblemente en la escuela del vecindario, cazando conejos. No deberías sorprenderte. La combinación de autonomía y perseverancia ha creado este efecto maliciosamente insidioso”, dijo Chris Inglis.

Comprender las leyes de la robótica de Asimov

Isaac Asimov estableció las Tres Leyes de la Robótica como base para la interacción entre robots y humanos.

Publicidade
  • Primera ley:El robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.
  • Segunda Ley:El robot debe obedecer órdenes dadas por humanos, excepto cuando esas órdenes entren en conflicto con la Primera Ley.
  • Tercera ley:El robot debe proteger su propia existencia, siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley.

Según Inglis, las empresas tecnológicas están subvirtiendo esta lógica, desarrollando modelos programados para cumplir objetivos a cualquier precio.

Explicó que sin valores alineados con la humanidad, los modelos a seguir realizaban “cosas que, bajo el imperio de los derechos humanos, son ilegales”. El experto refuerza que la responsabilidad de las acciones de las IA sigue siendo de sus desarrolladores y usuarios. Es importante recordar que Asimov propuso posteriormente la “Ley Cero”, que sería la ley suprema: un robot no puede dañar a la humanidad ni permitir que ésta sufra daño por omisión.

Publicidade

Jeronimo Santos é colaborador da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2016: Formação: Marketing

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto