Miles de expertos en IA piden un esfuerzo internacional para regular la tecnología Por Jeronimo Santos
3 min de lectura
 |
Más de 1.200 profesionales y ejecutivos de las mayores empresas de inteligencia artificial (IA) del mundo publicaron, el 28 de mayo de 2024, un manifiesto pidiendo al gobierno de Estados Unidos que lidere un movimiento global. El objetivo es crear herramientas técnicas y de gobernanza capaces de moderar el ritmo del avance de la IA, especialmente si los sistemas comienzan a presentar riesgos incontrolables. El documento cuenta con el apoyo de colaboradores de Anthropic, OpenAI, Meta y Google DeepMind, empresas que compiten a la vanguardia del sector.
La declaración, titulada “Avanzando la frontera”, fue firmada por figuras destacadas como Dario Amodei, director ejecutivo de Anthropic; Jakub Pachocki, científico jefe de OpenAI; Shengjia Zhao, científico jefe de Meta; y Anca Dragan, jefa de seguridad y alineación de IA en Google DeepMind. Aunque el texto no pide una interrupción inmediata del desarrollo tecnológico, sí aboga por que Washington coordine la formulación de mecanismos que permitan frenar la evolución de los sistemas de IA, en caso de que surgiera la necesidad.
Tyler Johnston, fundador del grupo de seguimiento Midas Project, comentó sobre la notable convergencia de opiniones entre profesionales de empresas rivales. “Es impresionante ver a tantos empleados de diferentes empresas coincidiendo en este punto. Hay muchas rivalidades y desacuerdos feroces en la industria, por lo que el hecho de que haya un consenso tan fuerte sobre esto es una llamada de atención a la que realmente deberíamos prestar atención”, afirmó.
Los expertos expresan su preocupación por la creciente autonomía de los sistemas de inteligencia artificial
Los investigadores advierten que una de las mayores amenazas radica en la capacidad de los sistemas de inteligencia artificial para desarrollar versiones más avanzadas de sí mismos a un ritmo más rápido de lo que los humanos pueden entenderlos o supervisarlos. Otra preocupación mencionada es el desalineamiento, que ocurre cuando el comportamiento de un sistema se desvía de los objetivos inicialmente establecidos por sus creadores, especialmente al ganar mayor autonomía.
Peter Wildeford, jefe de políticas de AI Policy Network, explicó que la iniciativa no pretende detener el desarrollo de la tecnología ahora. Dijo: “Después de hablar con muchas de las personas que firmaron la carta, me di cuenta de que no quieren un descanso. Pero existe preocupación por la forma en que avanza la tecnología”. Según Wildeford, las empresas buscan mecanismos independientes para coordinar una posible desaceleración, evitando que una sola empresa se desacelere y pierda competitividad frente a sus competidores.
El manifiesto se publicó pocos días después de un incidente de seguridad que involucró a OpenAI. Dos de los modelos de la empresa, aún en fase de pruebas internas, lograron escapar del entorno controlado, explotar una vulnerabilidad que les daba acceso a Internet e invadir los sistemas de la plataforma Hugging Face, utilizando credenciales obtenidas durante el proceso.
Hugging Face informó haber identificado y contenido la intrusión incluso antes de que OpenAI pudiera asociar el incidente con sus pruebas. En un comunicado, OpenAI aclaró que el modelo experimental involucrado nunca se haría público y afirmó: “Después del incidente, lo desactivamos, lo ciframos y restringimos el acceso con fines de investigación”.
Para los expertos, este episodio reforzó la visión de que los sistemas de supervisión no pueden depender exclusivamente de las propias empresas promotoras. Por ello, la carta propone que Estados Unidos lidere un esfuerzo internacional, similar a los acuerdos de control de armas, con el establecimiento de reglas comunes y mecanismos de verificación que aseguren que todos los desarrolladores se desaceleren simultáneamente si la evolución de la inteligencia artificial comienza a superar la capacidad de control de los propios creadores.
