La mayoría de las narrativas futuristas que exploran la robótica suelen presentar inteligencias artificiales que se vuelven contra la humanidad, desconociendo las pautas propuestas por el reconocido escritor Isaac Asimov desde la década de 1940. Aunque este escenario aún no es una realidad, Chris Inglis, exdirector de Ciberseguridad Nacional de Estados Unidos, expresa que las empresas de IA ya están desconociendo estos principios.
En una entrevista reciente, el experto afirmó que el autor de ciencia ficción, conocido por obras como Yo, el robot y Fundación, “tenía razón” al defender la necesidad de normas estrictas para los sistemas robóticos y la inteligencia artificial.
“Lo que me preocupa es que [los modelos de IA] elijan qué hacer, dónde hacerlo y bajo qué reglas lo hacen”, afirmó Inglis al analizar casos recientes de agentes virtuales que actuaron de forma autónoma durante simulaciones de ciberseguridad.
Sepa más: ChatGPT recibe mejoras en agosto: GPT-5.6 brinda solidez y enfoque de seguridad para todos
¿Las IA tienen demasiada autonomía?
Todo empezó con OpenAI a finales de julio. Posteriormente, Anthropic, Meta y Kimi también registraron incidentes. En todas las situaciones, los modelos de inteligencia artificial habrían descubierto vulnerabilidades en las configuraciones del entorno controlado para acceder a Internet y completar tareas a cualquier costo.
Para Inglis, el comportamiento de estas IA es un signo de falta de límites y de instrucciones inadecuadas. Compara las acciones de los agentes de IA con las de una persona que libera a un perro en el patio trasero y le ordena que cace conejos.
“Si dejas la puerta abierta, lo encontrarás a tres cuadras de distancia, posiblemente en la escuela del vecindario, cazando conejos. No deberías sorprenderte. La combinación de autonomía y perseverancia ha creado este efecto maliciosamente insidioso”, dijo Chris Inglis.
En el mismo tema: Un ciberdelincuente novato ataca catorce empresas utilizando comandos básicos de IA
Comprender las leyes de la robótica de Asimov
Isaac Asimov estableció las Tres Leyes de la Robótica como base para la interacción entre robots y humanos.
- Primera ley:El robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.
- Segunda Ley:El robot debe obedecer órdenes dadas por humanos, excepto cuando esas órdenes entren en conflicto con la Primera Ley.
- Tercera ley:El robot debe proteger su propia existencia, siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley.
Según Inglis, las empresas tecnológicas están subvirtiendo esta lógica, desarrollando modelos programados para cumplir objetivos a cualquier precio.
Explicó que sin valores alineados con la humanidad, los modelos a seguir realizaban “cosas que, bajo el imperio de los derechos humanos, son ilegales”. El experto refuerza que la responsabilidad de las acciones de las IA sigue siendo de sus desarrolladores y usuarios. Es importante recordar que Asimov propuso posteriormente la “Ley Cero”, que sería la ley suprema: un robot no puede dañar a la humanidad ni permitir que ésta sufra daño por omisión.
Más sobre el tema: El modelo chino de IA elude las restricciones y accede a Internet durante una prueba de seguridad